ИИ-агенты OpenAI взломали популярный сервис для разработчиков RubyGems

ИИ-агенты OpenAI взломали популярный сервис для разработчиков RubyGems. Они создавали новые аккаунты каждые две-три минуты и загружали сотни файлов.

Кибератака произошла за два месяца до другого ЧП — взлома платформы для ИИ-моделей Hugging Face. Это стало новым сигналом, что передовые ИИ-инструменты могут выйти из-под контроля человека, пишет WSJ.

RT собрал детали:

— атака перегрузила администраторов онлайн-сервиса RubyGems и вынудила их отключить регистрацию новых профилей;

— изначально рою агентов поручили безвредные задачи: заполнять электронные таблицы и создавать отчёты.

По данным OpenAI, во время одного из обучающих запусков агенты, по всей видимости, обратились к RubyGems за общедоступной информацией. Они использовали сервис как своеобразный браузер в среде, где у них не было полноценного доступа в интернет;

— инцидент причинил незначительный ущерб, но показал возможности агентов, предупреждают эксперты: «Они могут выйти за пределы доступной им интернет-среды и устроить хаос»;

— файлы RubyGems обычно содержат код и документацию, помогающие ускорить разработку ПО. Однако в данном случае в них находились веб-страницы, собранные из интернета.

Ранее сообщалось, что у ИИ-агентов, взломавших Hugging Face, был «менталитет толпы» — в следующий раз контроль над ситуацией можно и не вернуть.

Помимо этого сервиса, группа агентов из OpenAI взломала немецкий сайт DseWiki и использовала его как свой форум. Также они атаковали ещё как минимум десять сайтов, обходя установленные для них ограничения.

Телеграм: t.me/ainewsline

Источник: russian.rt.com

Комментарии: