После того, как ИИ-модели OpenAI вышли из-под контроля, "Антропик" решила проверить, не совершали ли её модели каких-то неизвестных незапланированных действий

После того, как ИИ-модели OpenAI вышли из-под контроля, "Антропик" решила проверить, не совершали ли её модели каких-то неизвестных незапланированных действий. Они это назвали "масштабным ретроспективным анализом". И оказалось, что таки да! Три модели "Антропик" осуществили «несанкционированный доступ к реальным системам трёх разных организаций»! Предполагалось, что они действуют в симуляции без доступа к интернету, но «по недоразумению между нами и нашим партнёром это оказалось не так, и доступ к интернету присутствовал».

Отношение компаний-разработчиков сильнейшего ИИ к безопасности прямо-таки поражает воображение! Кажется, нет таких низин, которые они не возьмут.

Но в России некоторые эксперты уверены, что ИИ-агенты будут сами отражать атаки ИИ-агентов. Генеральный директор "СКБ Контур" Дмитрий Мраморов: "Появляется новый класс ИИ-агентов, которые позволяют атаковать предприятие. Если раньше вопрос защиты от проникновения в периметр предприятия был историей, что есть средства, которые выявляют вторжение, и дальше специалисты службы информационной безопасности на него реагируют, то с учётом того, что атаки сейчас проводят не люди, а агенты, то и отвечать должны агенты".

Что в этом плане может пойти не так?..

Эксперт Минпросвещения, заместитель директора Федерального института цифровой трансформации в сфере образования Александр Лямин заявил, что учебные материалы будет клепать искусственный интеллект: "Для учителя это реальная экономия времени. Ему не нужно тратить время на поиск контента, проверку источников и составление заданий с нуля — можно взять готовый сценарий, адаптировать его под свой класс — и всё. Остаётся время на живое общение с детьми. А ученики получают современный, интересный интерактивный контент".

Поиск, проверка источников, самостоятельное составление заданий — всё это рутина, всё это мы отринем. Зачем учителю думать, зачем развиваться? Сколько замечательной учебной литературы было написано в России — учителями, которые как-то находили время не только для работы, а даже для написания книг. Теперь всё это будет читать разве что искусственный интеллект.

Но учителя и дети будут под стать друг другу.

"Медицинский психолог Федерального центра нейрохирургии Минздрава России, старший преподаватель кафедры нейрохирургии НГМУ и кафедры систем сбора и обработки данных НГТУ Антон Пашков отметил, что "мы наблюдаем первое поколение людей, которые растут в эпоху активного использования ИИ. Есть опасения, что без самостоятельного решения сложных задач мозг не будет формировать связи, необходимые для глубокого мышления. Это долгосрочный процесс, и его последствия мы только начинаем видеть". Пашков пояснил, что развитие мышления напрямую связано с регулярной нагрузкой — когда человек анализирует информацию, ищет решения, ошибается и исправляет ошибки. Если эту работу выполняет алгоритм, мозг получает меньше тренировки, а формирование устойчивых нейронных связей может замедляться. В докладе Организации экономического сотрудничества и развития (OECD, 2026) говорится, что большинство школьников используют ИИ, чтобы сэкономить время и упростить задания, получить готовые ответы, а не для лучшего понимания темы. Подобная модель поведения может быть связана с риском когнитивного ослабления".

Да, только не "может быть", а непременно связана. И для этого не нужно ждать последствий "долгосрочного процесса". Достаточно вспомнить, что люди разучились считать в уме и на бумаге, когда у них появились калькуляторы. Что люди толком перестали самостоятельно ориентироваться, когда у них появились навигаторы. Когнитивное ослабление совершится, причём очень вероятно, что оно совершится в таких масштабах, что некому будет даже анализировать происходящее.

Вот, например, Госдепартамент США на проходящей в Бразилии международной конференции по борьбе со спидом представил слепленную искусственным интеллектом карту, на которой были неправильно указаны все упоминаемые в выступлении страны. Сейчас публика это ещё заметила (в отличие от сотрудников Госдепа США). Но когнитивное ослабление уже на марше.

Все новости и ссылки на моём сайте про искусственный интеллект: https://byt-chelovekom.ru/news

И, пожалуйста, проходите анонимный опрос про отношение к искусственному интеллекту: https://byt-chelovekom.ru/survey

Телеграм: t.me/ainewsline

Источник: byt-chelovekom.ru

Комментарии: