Взаимное автоматическое разрушение: эскалация глобального ИИ. Оружейная гонка

Китай, США, Россия и другие страны усилили борьбу за оружие и военные системы, поддерживаемые искусственным интеллектом. Наращивание сравнивается с рассветом эпохи ядерного оружия.

На военном параде в Пекине в сентябре председатель Си Цзиньпин и его специальные гости, президент Владимир V. Путин из России и северокорейский лидер Ким Чен Ын наблюдали, как китайские силы продемонстрировали несколько моделей беспилотников, которые могли автономно летать вместе с истребителями в бою.

Демонстрация технологических может немедленно вызвать тревогу в Соединенных Штатах. Чиновники Пентагона пришли к выводу, что американская программа беспилотных боевых беспилотников отстает от программы Китая, по словам трех сотрудников министерства обороны и разведки США. Считалось, что Россия также находится впереди в строительстве объектов, которые могли бы производить современные беспилотники, сказали чиновники, которые не были уполномочены публично говорить о военном потенциале.

Американские чиновники подтолкнули отечественные оборонные компании к активизации. В прошлом месяце Anduril, оборонный технологический стартап в Калифорнии, начал производство беспилотных летательных аппаратов, поддерживаемых ИИ, которые были похожи на те, которые были показаны в Китае. Производство на заводе за пределами Колумбуса, штат Огайо, началось на три месяца раньше запланированного срока, что является частью усилий по сокращению разрыва с Китаем, сказал один из представителей министерства обороны.

Военная демонстрация Китая и контрдвижение США были частью эскалации глобальной гонки вооружений из-за автономных систем оружия и оборонных систем, поддерживаемых ИИ. Предназначенная для самостоятельной работы с использованием ИИ, технология снижает потребность в вмешательстве человека в решения, например, когда поражать движущуюся цель или защищаться от атаки.

В последние годы многие страны спокойно участвуют в соревновании по преимуществу над этими арсеналами, включая беспилотные летательные аппараты, которые идентифицируют и поражают цели без человеческого командования, самолеты истребителей, которые координируют атаки на скорости и высотах, до которых могут добраться немногие пилоты-люди, и центральные системы, управляемые ИИ, которые анализируют разведданные, чтобы быстро рекомендовать цели авиаударов.

США и Китай, крупнейшие в мире военные державы, находятся в центре конкуренции. Но гонка расширилась. Россия и Украина, находящиеся на пятом году войны, ищут все технологические преимущества. Индия, Израиль, Иран и другие инвестируют в военный ИИ, в то время как Франция, Германия, Великобритания и Польша перевооружаются на фоне сомнений в приверженности администрации Трампа НАТО.

Каждая страна стремится накопить самые передовые технологические запасы в случае, если им нужно бороться с беспилотниками и алгоритмом против алгоритма способами, с которыми люди не могут сравниться, заявили представители министерства обороны и разведки.

Россия, Китай и Соединенные Штаты все строят оружие ИИ в качестве сдерживающего фактора и для «взаимозаверенного уничтожения», сказал Палмер Лаки, основатель Anduril, в интервью в феврале.

Наращивание было сравнено с началом ядерного века в сороковых годах, когда разрушительная мощь атомной бомбы вынудила соперничающие страны к непростому противостоянию, что привело к более чем четырем десятилетиям балансирования на грани ядерного оружия.

Но в то время как последствия ядерного оружия хорошо понятны, военный потенциал ИИ только начинает узнаваться. По словам чиновников, технология, которая не должна делать паузу, есть, пить или спать, призвана перевернуть войну, сделав бои более быстрыми и непредсказуемыми.

Какая именно нация впереди, неясна. Многие программы находятся на стадии исследований и разработок, а бюджеты засекречены. Оперативники из Китая, США и России наблюдают за производственными линиями, военными демонстрациями и сделками с оружием друг друга, чтобы вывести то, что делает другой.

Китай и Россия экспериментируют с тем, чтобы позволить ИИ самостоятельно принимать решения на поле боя, заявили два американских чиновника. По их словам, Китай разрабатывает системы для десятков автономных беспилотников для координации атак без участия человека, в то время как Россия строит беспилотники Lancet, которые могут кружить в небе и автономно выбирать цели.

Несмотря на то, что специфика технологий остается завуалированной, намерения ясны. В 2017 Году, г-н. Путин заявил, что тот, кто возглавит ИИ, «станет правителем мира». Мистер. В 2024 году Си Цзиньпин заявил, что технологии станут «главным полем битвы» геополитической конкуренции. В январе министр обороны Пит Хегсет приказал всем ветвям вооруженных сил США принять ИИ, заявив, что им необходимо «ускоряться, как в аду».

Изображение

Defense Secretary Pete Hegseth behind President Trump at Joint Base Andrews in Maryland last month. Mr. Hegseth has directed all branches of the military to adopt A.I.Кредит...Eric Lee for The New York Times

В эти усилия вливаются миллиарды долларов. Пентагон запросил более 13 миллиардов долларов на автономные системы в своем последнем бюджете и потратил еще миллиарды за последнее десятилетие, хотя общую сумму трудно отследить, потому что финансирование ИИ было распределено по многим программам.

Китай, который, по словам некоторых исследователей, тратил суммы, сопоставимые с суммами Соединенных Штатов, использовал финансовые стимулы для стимулирования частной промышленности для создания возможностей ИИ. По словам аналитиков, Россия инвестировала в программы, связанные с беспилотниками и автономией, используя войну в Украине для проверки и доработки их на поле боя.

Представитель посольства Китая в Вашингтоне Лю Пэнъюй сказал, что Китай предложил международные рамки для управления военным ИИ и призвал к «разумному и ответственному отношению» к его развитию.

Что нужно знать об анонимных источниках. «Таймс» принимает тщательное решение в любое время, когда она защищает личность источника. Информация, которую предоставляет источник, должна быть заслуживающей освещения в печати, достоверной и давать читателям подлинное понимание.

Пентагон и Министерство обороны России не ответили на запросы о комментариях.

Динамика может напоминать холодную войну, но эксперты предупредили, что эпоха ИИ была другой. Стартапы и инвесторы теперь играют определенную роль в вооруженных силах и так же важны, как университеты и правительства. Технология искусственного интеллекта становится широко доступной, открывая двери для стран от Турции до Пакистана для развития новых возможностей. То, что появляется, - это изнурительная инновационная гонка без какой-либо очевидной конечной точки.

Этические вопросы об уступке выбора жизни или смерти машинам настигают спешку строить. Единственное крупное соглашение об оружии ИИ между Китаем и Соединенными Штатами было достигнуто в 2024 году, что является необязательным обещанием сохранить контроль человека над решением о применении ядерного оружия. Другие страны, как и Россия, не взяли на себя никаких обязательств.

Некоторые утверждали, что влияние ИИ будет больше, чем любая гонка вооружений.

«А.И. — это технология общего назначения, такая как электричество. И мы не говорим о гонке вооружений на электричестве», — сказал Майкл Горовиц, бывший сотрудник Пентагона, участвующий в разработке автономного оружия. «Поскольку ИИ трансформирует нашу армию, это то, как это делали электричество, компьютеры или самолет».

An unmanned combat aerial vehicle at a parade for the Chinese military in Beijing’s Tiananmen Square in September.Кредит...Kevin Frayer/Getty Images

Начинается Наращивание

В 2016 году на авиасалоне в южнокитайском городе Чжухай китайский поставщик в унисон прилетел на 67 беспилотниках. Анимационный фильм отдельно показал беспилотники, уничтожающие ракетную установку, демонстрацию их возможностей.

Россия также наращивала свой арсенал беспилотников. В 2014 году его военные планировщики поставили перед собой цель сделать 30 процентов своей боевой мощи автономными к 2025 году. К 2018 году российские военные испытывали беспилотный вооруженный автомобиль в Сирии. Хотя танк вышел из строя, потеряв свой сигнал и пропустив цели, он подчеркнул амбиции Москвы.

В Вашингтоне, Лейтенант. Генер. Джек Шанахан, который ранее работал в разведке в Министерстве обороны, оценивал, может ли ИИ решить более непосредственную проблему. Американские военные собирали так много данных — кадры с дронов, спутниковые снимки, перехваченные сигналы — что никто не мог понять все это.

«Ни в одной из исследовательских лабораторий в вооруженных силах не было ничего, что было бы способно генерировать результаты менее чем за пару лет», — сказал генерал Шанахан. «У нас была проблема, которую мы не могли решить без ИИ».

В 2017 году генерал Шанахан помог создать проект Maven, усилия Министерства обороны для военных по включению ИИ в свои системы. Одна из целей состояла в том, чтобы работать с Кремниевой долиной для создания программного обеспечения для быстрого обработки изображений, таких как кадры с дронов в разведывательных целях. Google был использован для помощи.

Но проект быстро столкнулся с препятствиями. Система закупок Пентагона, построенная на устаревших подрядчиках и длительных сроках, замедлила ситуацию.

Project Maven, теперь платформа Palantir, была разработана в рамках усилий Министерства обороны по включению ИИ в свои системы. Она сыграла свою роль в войне в Иране. Палантир

Когда в Google распространились слухи о Project Maven, сотрудники также протестовали, заявив, что компания, которая когда-то обещала «Не будь злом», не должна помогать идентифицировать цели для ударов беспилотников. Google в конечном итоге отказался от проекта.

В 2019 году Palantir, компания по анализу данных, соучредителем которой является технологический инвестор Питер Тиль, взяла на себя Maven. Также появились новые оборонные технологические стартапы, такие как Anduril, которые снабжают федеральное правительство башенами датчиков, поддерживаемыми ИИ, вдоль южной границы США.

Palmer Luckey, the founder of Anduril, which developed A.I.-backed sensor towers to be placed at borders.Кредит...Philip Cheung for The New York Times

В Китае Пекин подтолкнул коммерческие технологические компании к оборонным партнерствам в рамках стратегии под названием «гражданско-военное слияние». Частные фирмы были вовлечены в военные закупки, совместные исследования и другую работу с оборонными учреждениями. Компании, работающие над беспилотными летательными аппаратами и беспилотными лодками, обнаружили растущий военный спрос на свои технологии.

Вторжение России в Украину в 2022 году превратило теорию в реальность.

Огнеуленная, превосходящая и превосходя численностью, Украина удерживала Россию с импровизированным арсеналом дешевых технологий. Школьные дроны-любители использовались для атаки на российские позиции на линии фронта, в конечном итоге становясь более смертоносными, чем артиллерия, и в некоторых случаях приобретая автономные возможности. Дистанционно-контролируемые катера удерживали российский Черноморский флот.

Россия тоже адаптировалась. Его беспилотник Lancet, который первоначально пилотировался людьми, включал в себя автономные функции наведения.

Российские солдаты несут беспилотник Lancet в неустановленном месте на Украине. Фотография была сделана с видео, распространенного пресс-службой Минобороны России в августе.Кредит...Пресс-служба Министерства обороны России, через Ассошиэйтед Пресс

«Четыре года жестокости на поле боя в Украине послужили лабораторией для всего мира», — сказал он. Горовиц, бывший сотрудник Пентагона.

В последние месяцы Украина начала делиться своими данными о поле боя с Palantir и другими фирмами, чтобы системы ИИ могли лучше учиться воевать.

По всей Европе, где правительства стремятся уменьшить свою зависимость от американских военных, уроки Украины озвучили. В феврале Германия, Франция, Италия, Великобритания и Польша заявили, что разработают совместную систему противовоздушной обороны для защиты от беспилотников.

Продвинулся и Китай. На авиасалоне в Чжухай в 2024 году Norinco, один из основных производителей обороны страны, показал несколько видов оружия с возможностями ИИ. Одна из его систем показала целую бригаду, включая бронетехнику и беспилотники, которые контролировались и эксплуатировались ИИ.

Другим кораблем, представленным государственной авиационной промышленной корпорацией Китая, был 16-тонный реактивный беспилотник, предназначенный для использования в качестве летающего авианосца, который мог бы развернуть десятки меньших беспилотников в середине полета.

Изображение

Корабль-мать-дрона, который может запускать рои небольших беспилотников, показанный на авиасалоне в Чжухае 2024 года.Кредит...Тингшу Ван/Рейтер

«Левый щелчок, правый щелчок»

Через неделю после того, как американские и израильские силы нанесли удар по Ирану в феврале, высокопоставленный чиновник Пентагона дал представление о том, как компьютеризированная война теперь выглядит на конференции, транслируемой Palantir в прямом эфире.

Спутниковая лента показала склад. Одним щелчком мыши офицер выбрал ряд белых грузовиков, припаркованных снаружи, чтобы нацелиться в режиме реального времени. В течение нескольких секунд программное обеспечение ИИ предложило оружие, рассчитанные потребности в топливе и боеприпасах, взвесило стоимость и сгенерировало план удара.

Это была современная версия Project Maven, которую начал генерал Шанахан и теперь управляется Palantir и работает на коммерческом ИИ. Система анализировала разведданные из различных источников, генерировала списки целей, ранжированные по приоритетному, и рекомендовала оружие, практически устраняя задержку между идентификацией цели и ее уничтожением.

Встроенный в военную версию Клода, чат-бота, созданного фирмой ИИ Anthropic, Maven помог создать тысячи целей в первые недели кампании в Иране, темп, который Адм. Брэд Купер, глава США Центральное командование, частично приписываемое «продвинутым инструментам ИИ».

Кэмерон Стэнли, главный специалист по цифровым технологиям и искусственному интеллекту Министерства обороны, выступавший на конференции Palantir, сказал, что то, что делал Maven, было «революционным». Участие человека равносильно «левому клику, щелчку правой киоски, левого щелчка», — сказал он.

Утверждения о способностях Мэйвена могут быть преувеличены, и большая часть американского преимущества исходила из масштабов данных и навыков людей, использующих их, сказала Эмилия Пробаско, старший научный сотрудник Центра безопасности и новых технологий Джорджтаунского университета.

«Это не ракетостроение», — сказала она. «Я подозреваю, что у Китая уже есть что-то подобное».

В недавнем докладе, анализирующем тысячи документов о закупках Народно-освободительной армии, г-жа. Probasco обнаружил, что Китай строит системы, которые отражают американские. В одном случае Китай пытался воспроизвести Joint Fires Network, американскую программу, созданную для связи датчиков и оружия по всему миру, чтобы беспилотник на одной стороне мира мог нанести удар с другой.

В некоторых областях явно лидирует Китай. Его производственное доминирование означает, что он может производить автономное оружие в масштабах, с которыми Пентагон не может сравниться.

Внутри администрации Трампа стремление к оружию ИИ приобрело почти евангельский пыл. В прошлом месяце Пентагон назвал Anthropic угрозой безопасности, отчасти потому, что компания хотела ограничить использование своей технологии для автоматизированного оружия.

«Мы выиграем гонку ИИ», - сказал Джейкоб Хелберг, заместитель госсекретаря по экономическим вопросам, в прошлом месяце на ежегодной конференции Hill & Valley Forum в Вашингтоне, которую он основал, чтобы преодолеть Силиконовую долину и правительство.

Изображение

Джейкоб Хелберг, ныне заместитель госсекретаря по экономическим вопросам, и Алекс Карп, исполнительный директор Palantir, на форуме Hill & Valley в 2024 году.Кредит...Джейсон Эндрю для The New York Times

На конференции руководители технологических компаний, инвесторы и правительственные чиновники приветствовали спикеров, которые призвали технологические компании предоставить военным беспрепятственный доступ к ИИ.

Андурил, мистер. Лаки утверждал, что наращивание вооружений ИИ может предотвратить крупные войны. Логика отражала холодную войну: если бы обе стороны знали, что могут делать машины, ни одна из них не рискнула бы выяснить.

«Конфликты между сверхдержавами также ухудшатся, если вы сможете построить вещи, которые достаточно эффективно сдерживают войну», — сказал он.

Тем не менее, сдерживание предполагает рациональность, в то время как оружие ИИ предназначено для движения быстрее, чем человеческий разум. В упражнениях, датируемых 2020 годом, исследователи изучили, как автономные системы могут ускорить эскалацию и подорвать контроль над человеком - с некоторыми тревожными результатами.

В одном из сценариев система, управляемая Соединенными Штатами и Японией, ответила на запуск ракеты из Северной Кореи, автономно выпустив неожиданную контратаку.

«Скорость автономных систем привела к непреднамеренной эскалации», — говорится в докладе аналитиков RAND Corporation, некоммерческой исследовательской организации, которая работает с военными.

Генерал Шанахан, который ушел в отставку из армии в 2020 году и в настоящее время является сотрудником Центра новой американской безопасности, аналитического центра, сказал, что гонка, которую он помог начать, не давала ему спать по ночам. По его словам, правительства должны установить четкие границы, прежде чем технология превзойдет их контроль.

Джек Шанахан, генерал-лейтенант в отставке и бывший директор Объединенного центра искусственного интеллекта, сказал, что ИИ будет уделять «еще больше внимания тому, чтобы двигаться быстрее и быстрее».Кредит...Артур Видак/Анадолу, через Getty Images

«Существует риск эскалационной спирали, когда мы рискуем создать непроверенные, небезопасные и недоказанные системы, если мы не будем осторожны, потому что каждый из нас чувствует, что другая сторона что-то скрывает от нас», — сказал он.

Телеграм: t.me/ainewsline

Источник: www.nytimes.com

Комментарии: