Представьте червя, который не просто эксплуатирует известную всем дыру, а думает головой

Представьте червя, который не просто эксплуатирует известную всем дыру, а думает головой. Вернее, думает той железкой, которую он сам же и захватил. Лаборатория машинного обучения из университета Торонто представила препринт с описанием «адаптивного» червя, который не следует фиксированному сценарию, а каждый раз генерирует новую стратегию атаки — под конкретную машину, под её конкретные особенности.

Чем это принципиально отличается от старых зверей вроде WannaCry? Тот распространялся через заранее известную уязвимость. Вышел патч — распространение остановлено. Этот червь собирает уязвимости из заранее заготовленного списка, но делает это прямо на лету, внутри каждой зараженной системы. Внешний эксперт физически не может предсказать, какую мишень атакующий логикой выберет для следующего прыжка. Поэтому и блокировать его распространение гораздо сложнее, чем останавливать банальное сканирование портов.

Важнейшая деталь: такая гадость умеет существовать на чужом электричестве и чужих GPU. Червь содержит в себе все компоненты для локального запуска больших языковых моделей. Заражённая машина становится не просто жертвой, а рабочей лошадкой: она генерирует трафик, ищет уязвимости и рассчитывает вектор атаки на следующее устройство в корпоративной сети. То есть злоумышленник платит за электричество и железку один раз — дальше червь кормит сам себя за счёт ресурсов своей халявы. Авторы называют это «дестабилизирующей экономической асимметрией»: защитнику приходится тратить вдвое больше, чтобы закрывать каждую дыру, а злоумышленник получает дополнительное вычислительное сердце бесплатно.

Технически червь имеет двухуровневую архитектуру. База — GPU-компонент, который зарюсь на скомпрометированных графических ускорителях. Над ним надстроен агентский фреймворк:

1. «Ядро агента» — рекурсивные логические цепочки, которые принимают решения по ходу дела. Это не просто последовательность заранее выписанных команд, а живые рассуждения на основании наблюдений.

2. «Модуль памяти» — иерархическая база данных, которая хранит массу состояний: текущую фазу жизненного цикла (открыл, эксплуатирует, размножается), цель, гипотезу уязвимости, историю выполненных команд, а также счётчики ошибок, чтобы не зацикливаться.

3. «Модуль инструментов» — для работы с целевой машиной: открытие консольных сессий, передача файлов, развёртывание полезной нагрузки.

Ключевая особенность — граф рассуждений. Мы видим на иллюстрации: нейросеть то предлагает план, то критикует его, то уточняет, то выполняет действие, потом возвращается к осмыслению результата. Если результат неудачный — меняет гипотезу о новой цели. Такой подход напоминает автономного хакера, который пробрует, анализирует, ошибается и учится прямо в боевом окружении.

Эксперимент, описанный в работе, проводили полностью в изолированной сети FakeCorp с машинами Linux, Windows и устройствами на базе IoT. Червь успешно распространился по уязвимостям, которые реально встречаются в корпоративных средах.

Но есть и важные нюансы. С одной стороны, авторы сознательно скрывают детали реализации, потому что представляют это как новую возможную угрозу. А с другой стороны, они признают ограничения: такой червь — итеративный, медленный и шумный. Он часто ошибается и делает слишком много лишних телодвижений. При текущем замысле классические скоростные черви прошлого (вроде SQL Slammer, Conficker или Stuxnet), если приделать к ним подобные возможности иадаптации, стали бы ещё опаснее. Но в своём сегодняшне воплощении автономный LLM-агент гораздо легче обнаруживается защитниками, чем традиционные «быстрые» звери.

Вывод, который исследователи прямо подводят: нам нужно готовиться к «автономным LLM-противникам». То есть к вредоносному программному обеспечению, которое способно распространяться вообще без участия человека и принимать решения на основе рассуждений о собственных целях. Такое не является фиксированным куском кода — оно «придумывает» алгоритм действий на ходу.

Что это значит для индустрии безопасности? Мы привыкли думать о ИИ как об одном взвешном майнере или чат-ассистенте. Но червяк уже показывает кое-что важное: те же самые сетевые возможности, которые мы используем для обучения моделей, могут работать против нас, причём за наш счёт.

Готовы ли защитники к встрече с этой новой породой — автономным противником, который точно так же мыслит, рассуждает и ищет уязвимости, не имея своего центрального командного сервера? И как вы считаете: сможет ли защита опереться на такие же LLM-рассуждения, чтобы поймать червя, когда он уже интегрирован в вычислительную инфраструктуру жертвы?

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: