Claude помог взломать правительство Мексики

Пока Anthropic строит из себя рыцарей в сияющих доспехах и отказывает Пентагону, какой-то предприимчивый хакер взял их хваленую нейросеть Claude и вынес половину цифровой инфраструктуры Мексики. Израильские безопасники из Gambit Security раскопали, что неизвестный персонаж целый месяц на чистом испанском просил ИИ поработать пентестером. Результат впечатляющий, минус 150 ГБ правительственных данных, включая 195 миллионов налоговых деклараций, базы избирателей и архивы местного ЗАГСа.

Claude честно ломался и выдавал предупреждения о недопустимости таких действий, но злоумышленник просто взял ИИ измором, заваливая его хитрыми промптами до полного джейлбрейка. В итоге поехавшая алгоритмическая кукушка сгенерировала тысячи подробных инструкций: куда стучаться, какие эксплойты применять и как автоматизировать кражу данных по 20 конкретным уязвимостям. А когда у Claude всё-таки случались приступы этичности, хакер бежал за советами к ChatGPT (правда, OpenAI божится, что их бот сразу послал взломщика лесом).

Anthropic уже отчиталась, что забанила аккаунты мамкиного хакера, а в новых версиях модели такого точно не повторится. Налоговая, избирательный комитет и прочие мексиканские ведомства, чьи серверы пропылесосили вдоль и поперек, просто сделали лицо кирпичом и заявили, что "доказательств взлома не обнаружено".

Источник: vk.com

Комментарии: