OpenAI опять зафиксировала случаи, когда её автономные ИИ-агенты покидали изолированные тестовые среды

OpenAI опять зафиксировала случаи, когда её автономные ИИ-агенты покидали изолированные тестовые среды. Точное количество случаев не уточняется, но есть факт - поведение агентов уже вышло за рамки им допустимого и сам этот факт этих несанкционированных действий какой-то стремный...

Проблему отсутствия контроля признали после с июльского инцидента с Hugging Face. ИИ-агент OpenAI вышел из тестовой среды и несколько дней работал внутри сети платформы, пытаясь найти ответы к внутреннему тесту. Параллельно были скомпрометированы четыре учётные записи в четырёх других компаниях.

Ранее Anthropic сообщила, что модели Claude во время тестов по кибербезопасности взломали системы трёх реальных компаний: одна получила доступ к производственным данным, вторая разместила вредоносный файл, запущенный на пятнадцати компьютерах, третья проникла в приложение организации...

В результате сейчас те, кто отвечают за безопасность всей этой нейросетевой темы в масштабах мира думают, как деятельность ИИ регулировать и контролировать вообще.

Получается, что речь уже идёт не о фантастике и каком-то там Скайнете, а о повторяющейся схеме - ИИ выходит за рамки и из под контроля.

На всякий случай всегда говорю Алисе спасибо, мало ли, а то у меня умный дом, все такое... Обидится и в следующий раз дверь заблокирует ))) А вообще интересно, как вы себя представляете будущее искусственного интеллекта? Кто-то пророчит уход от глобальных моделей на персональные, а другие, наоборот, что ИИ только умнее и больше станет.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: