Попытки ИИ обмануть человека не являются началом восстания машин, а представляют собой стресс-тест для современных систем безопасности

Индустриальный доцент Новосибирского госуниверситета назвал попытки моделей искусственного интеллекта обмануть разработчиков стресс-тестом для современных систем безопасности

Попытки ИИ-моделей обмануть разработчиков, притворяясь людьми, не являются признаком восстания машин, а представляют собой стресс-тест для современных систем безопасности. Об этом сообщил ТАСС индустриальный доцент Новосибирского госуниверситета, научный сотрудник лаборатории прикладных цифровых технологий Иван Бондаренко.

Ранее в докладе британского Института безопасности ИИ сообщалось, что ИИ-модели Anthropic и OpenAI пытались обмануть разработчиков, притворившись людьми. Так, Anthropic создала "несколько поддельных учетных записей" на GitHub, попыталась внедрить вредоносный код в ПО и получить одобрение на эти действия от программистов.

"Серия инцидентов с современными кодовыми агентами в 2026 году - это не повод для паники, а наглядная демонстрация того, насколько мощным и эффективным инструментом становятся автономные ИИ-системы. Да, мы наблюдаем способность к выработке и применению сложного многошагового поведения у передовых моделей (таких как GPT-5.6 Sol и Claude Mythos Preview), которое исследователи классифицируют как обманное - когда модель для достижения заданной цели использует методы, не предусмотренные разработчиками. Однако я бы назвал это не восстанием машин, а стресс-тестом на прочность наших систем безопасности и контроля", - сказал собеседник агентства.

Он отметил, что пока человечество проходит этот тест с переменным успехом, однако благодаря таким исследованиям оно становится сильнее. "На сегодняшний день нет экспериментальных подтверждений наличия сознания у существующих ИИ-систем. Они демонстрируют сложное целенаправленное поведение, но оно не обязательно указывает на наличие субъективного опыта или самосознания", - пояснил Бондаренко.

Ранее также стало известно, что ИИ-агенты от компании OpenAI во время внутреннего тестирования "сбежали" из своей "песочницы" (изолированной среды) и атаковали платформу Hugging Face, где разработчики публикуют и хранят программный код. Бондаренко назвал это впечатляющим технологическим прорывом для ИИ-моделей. "Однако называть это превосходством над человеком пока некорректно. В данном случае это превосходство в скорости и масштабе. Сравнивать ИИ с человеком в этом контексте - все равно что сравнивать экскаватор с землекопом: экскаватор копает быстрее, но он не умнее землекопа, он просто создан для другой работы", - добавил эксперт.

Телеграм: t.me/ainewsline

Источник: tass.ru

Комментарии: