ИИ без ограничений: Китай открыл хакерам ящик Пандоры

Китайский стартап выложил в открытый доступ модель Kimi, сопоставимую по производительности с передовыми закрытыми системами. Это продолжение тренда демократизации сильного ИИ, который мы наблюдали с выходом Llama или DeepSeek. Разница в том, что теперь злоумышленникам не нужен доступ к платным API и они не боятся цензуры модерации. Локально запущенная модель, дообученная на вредоносных датасетах, — это идеальный серый инструмент.

Открытая нейросеть сама по себе ничего не взламывает. Это ускоритель интеллектуальной работы. Без квалифицированного оператора, понимающего архитектуру атакуемой системы и принципы социальной инженерии, она бесполезна. Скорее это можно сравнить с появлением портативных и дешевых станков с ЧПУ, когда раньше сложную деталь оружия могла сделать только промышленность, а теперь ее печатают в гараже. Возможности расширились, но это не спонтанная цепная реакция.

Техническая сторона вопроса тревожна именно в разрезе дообучения модели. С высокой вероятностью мы видим классический файнтюнинг — методику, при которой с модели снимаются предохранители и она доучивается на специализированных корпусах текстов, среди которых утекшие базы уязвимостей, исходных кодах вредоносного ПО и сценариях пентестов. Итогом становится не абстрактный «Скайнет», а крайне практичный генератор фишинговых писем без грамматических ошибок, кода для эксплуатации уязвимостей нулевого дня или скриптов для автоматизированного брутфорса. Главная опасность здесь, как и всегда, лежит на стыке технологий и человеческой психологии. Убедительность дипфейков и текстовых легенд, генерируемых такими моделями, делает атаки социальной инженерии почти неотличимыми от реального общения, а значит, критически эффективными.

Последствия для нас, для индустрии кибербезопасности и государства, уже наступают. Скорость появления вредоносного кода возрастает на порядок. Защитным системам приходится работать с эвристиками, натренированными на машиночитаемом, а не на человеческом стиле. Возникает эффект «гонки вооружений», при котором атакующие и защитные ИИ будут сталкиваться в автоматическом режиме, а человек рискует остаться просто наблюдателем. Однако паниковать рано. Те же открытые модели позволяют «белым хакерам» и OSINT-специалистам масштабировать поиск уязвимостей и мгновенно анализировать цифровые следы. А инструменты спецслужб и крупных корпораций становятся доступны исследователям и малому бизнесу. Ирония момента в том, что та самая модель Kimi, если ее правильно дообучить, с равным успехом поможет и взломать систему, и защитить ее от атаки. Вопрос лишь в том, в чьих руках она окажется.

Игорь Бедеров, RT

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: