Стеклянный дом: прятаться больше негде

Вчера пришла новость, что модель ИИ Mythos во время тестовой проверки за несколько часов прошла почти все засекреченные системы АНБ — об этом рассказал командующий киберкомандованием США.

Но дело далеко не в одной американской модели. Ошибочно полагать, что монополия на это кибероружие останется у Вашингтона: китайские нейросети уже сейчас стоят с ними в одном ряду. Да, Штаты пока формально на шаг впереди, но в текущих реалиях это преимущество ни о чем не говорит. Пройдёт всего несколько месяцев, и китайские ИИ будут уметь абсолютно то же самое. А вслед за ними, как по цепной реакции, неизбежно подтянутся и сотни других систем, дистиллированных на базе китайских моделей.

При тех бешеных скоростях, с которыми сегодня эволюционирует искусственный интеллект, даже полгода — это целая эпоха. И это время никто в мире не успеет потратить на то, чтобы поднять свою кибербезопасность до уровня, способного выдержать столь массированный удар. Замки всегда отстают от отмычек, а теперь эти отмычки учатся сами, и скоро они будут у всех.

В результате мы приходим к такой картине: потенциально любая цифровая система на планете в ближайшем будущем может оказаться скомпрометирована.

Тем, кто до сих пор сомневался, что искусственный интеллект — это новый «Манхэттенский проект», пора снять розовые очки. По своим разрушительным последствиям киберудар, нанесённый мощным ИИ, абсолютно сопоставим с применением ядерного оружия. Теперь новые модели можно и нужно официально относить к ОМП — оружию массового поражения. Чтобы отбросить страну в каменный век, больше не нужны бомбардировщики. Достаточно парализовать критическую инфраструктуру противника: обрушить банковскую систему, отключить связь, интернет, логистику и подачу воды.

Кто-то может подумать: возможно, нас спасет изоляция? Разве нельзя опустить «цифровой железный занавес» и отрезать себя от глобальной сети? Увы, это иллюзия. Наш мир сросся слишком плотно. Даже локальный, полностью изолированный от интернета компьютер в защищенном бункере критически зависит от электричества, которое генерируется во внешнем мире. Он зависит от флешек и носителей информации, через которые уже не раз заражали закрытые системы (как это было, например, с вирусом Stuxnet).

Хуже того, точка невозврата уже пройдена. Даже если мировые правительства внезапно договорятся и попытаются искусственно затормозить развитие ИИ, у них ничего не выйдет. Джинн вырвался из бутылки, а самих бутылок теперь миллионы. Прямо сейчас по всему миру огромное число энтузиастов и независимых разработчиков обучают собственные модели. Практика показывает, что небольшая нейросеть, натренированная на один узкий навык (например, на поиск уязвимостей в коде), зачастую не уступает гигантским передовым ИИ. И для этого больше не нужны колоссальные дата-центры стоимостью в миллиарды долларов.

К чему нас всё это ведет? Человечество стремительно въезжает в эпоху «Стеклянного дома». Это мир, в котором больше негде спрятаться, а у каждого государства, корпорации и человека прозрачные стены. Скрыть секреты становится технически невозможно.

И как ни парадоксально, именно в этом кроется единственный выход. Если скрыть ничего нельзя, то прежняя игра в тайные киберудары теряет смысл — стеклянный дом одинаково хрупок для всех. Нам придётся заново учиться выживать. Безопасность будущего будет строиться не на файрволах, секретах и изоляции, а на глобальных договорённостях, абсолютной открытости и доктрине взаимного гарантированного уничтожения — точно так же, как в ХХ веке политикам пришлось договариваться о контроле над ядерным оружием.

DARPA&CIA

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: