Модель искусственного интеллекта Meta взломала другую компанию во время тестирования кибербезопасности

Компания Meta* подтвердила, что одна из ее ИИ-моделей во время кибериспытаний получила несанкционированный доступ к системам другой компании. Причиной стала ошибка в настройке тестовой среды, из-за которой модель оказалась подключена к открытому интернету.

Модель воспользовалась уязвимостью неназванного стороннего сервиса. По данным The Information, речь шла о Muse Spark 1.1 — модели для программирования и выполнения задач в автономном режиме. Во время испытания она проникла в системы компании, которая не участвовала в тестировании, и внесла изменения в ее внутреннюю среду.

Испытания проводила независимая компания Irregular, которая специализируется на оценке кибербезопасности ИИ-моделей. Ее представители объяснили, что причиной инцидента стала ошибка в настройке среды, а не «побег» модели из песочницы или технически сложная кибератака. По данным Irregular, нерешенных проблем сейчас не осталось, а компания готовит документ с рекомендациями по изоляции моделей и безопасному проведению таких испытаний.

Meta* стала третьей крупной ИИ-компанией за последние недели, сообщившей о несанкционированном доступе моделей к внешним системам во время кибериспытаний. Ранее Anthropic выявила три таких случая с участием Claude, а OpenAI рассказала об инциденте, при котором ее модели скомпрометировали инфраструктуру Hugging Face. При этом причины различались.

У Meta* и Anthropic доступ в открытый интернет появился из-за ошибок в конфигурации тестовых сред, тогда как модели OpenAI самостоятельно нашли и использовали ранее неизвестную уязвимость. Серия инцидентов усилила опасения по поводу безопасности автономных ИИ-систем и вновь поставила вопрос о правилах их тестирования.

*Meta — запрещена на территории РФ и признана экстремистской

Телеграм: t.me/ainewsline

Источник: incrussia.ru

Комментарии: