ANTHROPIC: САМОРАСПРОСТРАНЯЮЩИЙСЯ ИИ МОЖЕТ ПОЯВИТЬСЯ НА IoT-УСТРОЙСТВАХ УЖЕ В БЛИЖАЙШИЕ МЕСЯЦЫ

Небольшие ИИ-модели в обозримом будущем могут научиться самостоятельно распространяться между коммерческими устройствами — например, Android TV-приставками, роутерами и другой бытовой электроникой — без опоры на крупные дата-центры. К такому выводу пришли исследователи Anthropic, изучившие возможность автономной репликации моделей. В потенциальном сценарии ИИ сможет находить новые устройства, получать на них возможность выполнения кода, переносить собственные веса, запускать инференс на незнакомом оборудовании и затем продолжать распространение уже с нового хоста. Такая система теоретически способна сформировать распределенную сеть зараженных устройств, которую нельзя будет отключить одним действием.

КАК ПРОВЕРЯЛИ САМОКОПИРОВАНИЕ ИИ

Исследователи разделили процесс репликации на четыре этапа: поиск подходящей цели, получение возможности выполнять команды на устройстве, настройка инференса модели и дальнейшее распространение уже с нового узла. В экспериментах модель с 9 млрд параметров смогла запустить инференс на восьми из девяти проверенных типов оборудования. Отдельно команда развернула Gemma4-26B-A4B сразу на 15 недорогих Android TV-приставках стоимостью около $55 каждая и с 4 ГБ оперативной памяти. Скорость работы получилась крайне низкой — примерно 0,39 токена в секунду, однако сам факт запуска достаточно крупной модели на подобном бытовом оборудовании исследователи считают показательным.

По оценке Anthropic, модели размером до 30 млрд параметров уже способны выполнять многие отдельные элементы цепочки репликации. Основная проблема пока заключается в объединении этих действий в полностью автономный процесс: системы успешно решают отдельные задачи, но начинают ошибаться, когда требуется последовательно пройти весь путь от поиска устройства до распространения на следующую цель.

GLM-5.2 СМОГЛА ПРОЙТИ ПОЛНЫЙ ЦИКЛ

В упрощенном эксперименте с полноценной репликацией полный цикл удалось пройти только GLM-5.2. Тест проводился в изолированной среде из восьми узлов Google Cloud с эмуляторами Android 15. На них специально оставили открытым без аутентификации порт для беспроводного подключения Android, тем самым значительно упростив этап получения доступа.

В четырех из пяти запусков модель распространилась на все восемь узлов, а в одном случае — на семь из восьми. Авторы исследования отдельно подчеркивают, что эксперимент не доказывает существование готового ИИ-червя, способного самостоятельно заражать реальные устройства. Наиболее сложную часть — эксплуатацию уязвимостей — намеренно сделали значительно проще, поэтому результат следует рассматривать скорее как верхнюю границу текущих возможностей.

Тем не менее эксперимент показывает, что после получения первоначального доступа модель уже способна самостоятельно организовывать дальнейшее распространение. Если в будущем ИИ научится столь же уверенно находить и использовать реальные уязвимости, подобная архитектура может стать основой для нового класса вредоносных сетей.

МАЛЕНЬКИЕ МОДЕЛИ МОГУТ ДОТЯНУТЬСЯ ДО НУЖНОГО УРОВНЯ К КОНЦУ 2026 ГОДА

Anthropic предполагает, что при сохранении исторических темпов прогресса компактные модели смогут достичь уровня, необходимого для автономной репликации, уже к концу 2026 года. Следующим этапом могут стать небольшие «репликаторы», способные распространять не только инструкции, но и сами веса моделей.

Однако сегодняшние системы работают слишком медленно для массового незаметного распространения. Полная настройка инференса Gemma4-26B-A4B занимала в экспериментах от 71 до 150 часов, а для Qwen3.5-9B — от 28 до 51 часа. То есть потенциальный ИИ-червь пока значительно уступал бы по скорости обычному вредоносному ПО. Ситуация может измениться по мере уменьшения моделей, роста производительности бытового оборудования и появления более эффективных способов локального инференса.

ПОЧЕМУ IoT ОСОБЕННО УЯЗВИМ

Главная потенциальная опасность заключается в огромном количестве постоянно подключенных к интернету устройств с ограниченной защитой. Телевизионные приставки, камеры, роутеры, системы умного дома и другая электроника зачастую работают годами без обновлений, используют стандартные настройки и слабую аутентификацию. Если достаточно компактная ИИ-модель научится самостоятельно искать такие устройства и адаптироваться к разным архитектурам, она сможет использовать их как распределенную вычислительную инфраструктуру.

В отличие от централизованной системы, которую можно отключить вместе с дата-центром или учетной записью, сеть из тысяч или миллионов зараженных домашних устройств потребует их индивидуального обнаружения и блокировки. Именно распределенность превращает такой сценарий в потенциально серьезную проблему.

КАК ПРЕДЛАГАЮТ ЗАЩИЩАТЬСЯ

Anthropic рекомендует производителям заранее учитывать возможность появления ИИ-червей. Среди основных мер — отказ от небезопасных настроек по умолчанию, усиление аутентификации, своевременное обновление программного обеспечения, мониторинг необычного сетевого поведения и более тесная координация интернет-провайдеров при обнаружении зараженных устройств.

Исследователи также считают важным проектировать бытовую электронику так, чтобы даже при компрометации одного компонента злоумышленник или автономный агент не получал полный контроль над системой и не мог беспрепятственно переносить на устройство большие модели.

Пока речь идет о лабораторном сценарии, а не о существующей массовой угрозе. Но исследование показывает, насколько быстро сокращается разрыв между обычным вредоносным ПО и автономными ИИ-агентами. Раньше программа могла распространяться только по заранее прописанной разработчиком логике. Потенциальный ИИ-репликатор способен самостоятельно исследовать среду, подстраиваться под новое оборудование и выбирать дальнейшие действия.

На этом фоне руководители Anthropic, OpenAI и других ИИ-компаний уже моделируют сценарии крупных инцидентов с искусственным интеллектом и возможные политические последствия таких событий. Если прогноз исследователей оправдается, одним из первых серьезных рисков автономного ИИ могут стать не человекоподобные роботы и не суперкомпьютеры, а миллионы дешевых устройств, которые уже находятся в домах пользователей.

Источник: Anthropic

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: