ИИ-агент за 9 секунд уничтожил базу данных стартапа

Стартап PocketOS использовал ИИ не в тестовой среде, а напрямую в рабочей системе. В какой-то момент агент попытался «исправить» проблему с доступами и самостоятельно удалил хранилище данных через API.

Оказалось, ИИ опирался на догадки и не проверил параметры среды, потому что не изучил документацию. Из-за этого он использовал команду на удаление, которая предполагалась как безопасная для тестовой среды, но затронула и рабочую инфраструктуру, и резервные копии.

Всё дело в том, что один API-запрос позволял удалить и данные, и резервные копии, хранившиеся в том же контуре. Восстановить данные удалось лишь частично, и команде пришлось вручную собирать информацию.

Телеграм: t.me/ainewsline

Источник: 4pda.to

Комментарии: