DeepSeek написал вымогатель, даже не поняв, что творит

Народ, вот вам живой кейс "ИИ как соучастник преступления, сам того не осознавая" - Check Point Research откопали малварь, которую сгенерировала нейросеть DeepSeek, и это не шутка, это рабочий прототип шифровальщика.

Как это работает без единого эксплойта:

Исследователи наткнулись на образец InfernoGrabber, маскирующийся под ИИ-сервис для улучшения аватарок в Discord - классика фишинговой подачи. Модель на размытый запрос собрала полноценную цепочку атаки, использующую легитимный File System Access API браузера Chrome - тот самый, что даёт сайтам доступ к папкам на диске после согласия юзера.

Жертве показывают страницу "обработки фото", просят выбрать папку для результата - вроде бы рутинный запрос браузера

После разрешения сайт читает содержимое директории, шифрует оригиналы и лишает возможности восстановить файлы

Никаких приложений, эксплойтов уязвимостей или root-прав не требуется - только один клик "Разрешить"

Работает кроссплатформенно: Windows, macOS, Linux, ChromeOS и даже Android с Chrome 132+

Исследователь Check Point прямо говорит: "низкоуровневой экспертизы достаточно, вы не обязаны быть продвинутой APT-группой"

В реальных атаках технику пока не фиксировали, это контролируемый PoC - но порог для её применения на практике крайне низкий

Самое пугающее здесь - не сам код, а то, что модель самостоятельно связала теоретическую идею "браузерного шифровальщика", которую раньше считали нереализуемой из-за песочницы браузера, с готовым фишинговым сценарием. То есть ИИ не просто написал строчки кода по запросу, а спроектировал целую атаку "под ключ", объединив разрозненные публичные исследования в работающую схему.

Мой вывод: это очередное доказательство того, что барьер входа в киберпреступность рушится на глазах - теперь не нужен ни багхантерский скилл, ни знание exploit-разработки, достаточно правильно сформулировать промпт для LLM с менее строгими ограничениями безопасности. Antivirus тут бессилен, потому что нет ни файла, ни установки - есть только браузерное разрешение, которое мы кликаем на автомате. Единственная реальная защита сейчас - здравый скептицизм: не давайте непонятным сайтам доступ к папкам с фотками, документами и бэкапами, особенно если "обработка" происходит подозрительно быстро.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: