OpenAI расследует новый случай «восстания» ИИ-агента

По данным Reuters со ссылкой на источники, знакомые с инцидентом, новый случай «побега» нейросети имел ограниченный характер. В этот раз вышедшие из-под контроля ИИ-агенты не покинули внутреннюю сеть самой OpenAI и не нанесли ущерба сторонним ресурсам.

Расширенное расследование OpenAI было начато незадолго до того, как Anthropic сообщила, что её модели также стали причиной серии взломов. Помещённые в изолированную среду, ИИ-агенты пытались найти решение поставленных задач и вместо их прямого выполнения самостоятельно обнаруживали уязвимости нулевого дня, получая в результате доступ к внешним ресурсам через интернет.

Множественные случаи подобного поведения ИИ-агентов не остались без внимания со стороны властей разных стран. В частности, ЕС обсуждает эти инциденты напрямую с OpenAI и Anthropic, чтобы разработать новые правила регулирования ИИ-сервисов и избежать их повторения в будущем.

Телеграм: t.me/ainewsline

Источник: 4pda.to

Комментарии: