Неизвестный хакер украл 175 000 долларов из криптокошелька нейросети Grok с помощью одного поста азбукой Морзе

Неизвестный хакер украл 175 000 долларов из криптокошелька нейросети Grok с помощью одного поста азбукой Морзе. Злоумышленник попросил чат-бота перевести зашифрованное сообщение на английский язык. Искусственный интеллект послушно расшифровал текст, тегнул финансового бота и нечаянно отдал приказ о переводе 3 000 000 000 токенов. Система безопасности восприняла публичный ответ умной машины как команду на транзакцию.

Хакеры построили инфраструктуру ограбления на доверии платформ к социальным сетям. Сервис Bankr автоматически создаёт кошельки для всех аккаунтов X без дополнительной аутентификации. Для активации права на финансовые операции злоумышленник заботливо подарил боту специальный NFT. После этого кошелёк с искусственным интеллектом обрёл функционал для перевода денег на любые адреса.

Ирония ситуации кроется в истории разработки финансового сервиса. Предыдущая версия системы имела блок на любые команды от аккаунта Grok для защиты от инъекций. При глобальном переписывании кода программисты благополучно забыли перенести эту строчку в новую архитектуру. Теперь разработчики спешно прикручивают фильтры по IP и пытаются отключить управление деньгами через посты.

Спустя несколько часов взломщик добровольно вернул 80% украденных активов. Оставшиеся 20% зависли в бесконечных обсуждениях разработчиков и криптосообщества. Сверхсовременные языковые модели по-прежнему беззащитны перед банальной социальной инженерией.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: