Апокалипсис на автопилоте

В Вашингтоне обсуждают автоматизацию ядерных угроз

Авторы War on the Rocks — исследователи из Университета Карнеги-Меллона и Совета по международным отношениям — опубликовали статью о потенциальном делегировании решений о применении ядерного оружия ИИ-системам.

Отправная точка материала — советская система «Периметр» (Dead Hand), которая в случае гибели руководства СССР автоматически делегировала право на ответный удар нижестоящему офицеру. Авторы прямо называют эту систему «фундаментально оборонительной» — и на этом фоне выстраивают куда более тревожный тезис: то же самое решение можно использовать не для защиты, а для наступательного принуждения.

Суть эксперимента, который проводили исследователи, показательна сама по себе.

Они опросили более 100 действующих депутатов британского парламента и свыше 1000 граждан Британии, представив им гипотетический сценарий 2030 года: Россия вторгается в Эстонию и грозит применить ядерное оружие против стран НАТО, если те вмешаются.

Когда респондентам сообщали, что угроза реализована через автоматизированную систему запуска, а не через обычное человеческое решение, доверие к угрозе росло — обычные британцы на 13 процентных пунктов чаще верили, что Россия действительно нанесёт удар, а депутаты на 9 процентных пунктов чаще были готовы поддержать отступление от обязательств по статье 5.

Логика авторов проста и по-своему цинична: угроза применения ядерного оружия обычно не заслуживает доверия из-за взаимного гарантированного уничтожения и ядерного табу — ни одно рациональное руководство не станет разменивать своё уничтожение на тактический выигрыш.

Но компьютер, в отличие от человека, не оценивает рациональность последствий — если государство передаёт право пуска автоматизированной системе, оно буквально «связывает себе руки», и тем самым делает угрозу более осязаемой именно потому, что убирает человеческое звено принятия решения в критический момент.

Показательно, что материал выставляет Россию (ну а как же иначе) как единственного вероятного актора подобной автоматизации, хотя реальная практика делегирования решений об огневом поражении искусственному интеллекту сегодня — это в первую очередь западный, а не российский тренд.

Мы уже писали о том, что Пентагон ещё в апреле пересмотрел доктрину целеуказания JP 3-60, допустив, что ИИ может инициировать определённые действия под контролем человека, а не только исполнять решения оператора, и Трамп подписал меморандум, дающий Пентагону 90 дней на обновление правил применения автономных систем оружия.

Израиль пошёл ещё дальше: системы вроде Lavender и Gospel уже используются для генерации списков целей в реальных боевых операциях с минимальным человеческим контролем — это не гипотетический сценарий 2030 года, а задокументированная практика последних лет.

Поэтому реальная опасность делегирования решений об уничтожении алгоритму исходит не из гипотетической российской «машины Судного дня», а из вполне конкретных, уже действующих доктрин США и их ближайшего союзника — именно они на практике нормализуют идею, что нажатие на курок можно доверить нейросети, и именно этот прецедент, а не умозрительные сценарии про Эстонию, стоит рассматривать как главный источник риска в том числе для самой России.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: