Пентагон провел испытания беспилотника, который может сам решать, кому жить, а кому умереть

Военный полигон Эдвардс, Кейп-Код, штат Массачусетс. Небольшой беспилотник с шестью жужжащими моторами пронесся мимо воссозданной копии ближневосточной деревни и приблизился к постройке, внешне похожей на мечеть. Камера стала сканировать территорию, чтобы обнаружить цель.

Это был обычный дрон, который можно купить в любом интернет-магазине, единственное отличие устройства в том, что им никто не управлял дистанционно. Оснащенный программой искусственного интеллекта, беспилотник смог обнаружить и идентифицировать полдюжины человек, ходивших по объекту, играя роль повстанцев с муляжами автоматов Калашникова.

Аппарат немного снизился, и на экранах инженеров, проводящих испытание, замерцал фиолетовый прямоугольник. Устройство сфокусировалось на человеке, который скрывался в тени. С помощью такой технологии Пентагон стремится изменить методы ведения войны.



Сделав ставку на искусственный интеллект, организация собирается помочь США сохранить свою позицию главной военной державы. Минобороны тратит миллиарды долларов на развитие арсенала так называемого автономного и полуавтономного оружия, которое до сих пор существовало только в научно-фантастических блокбастерах. Ученых же все больше беспокоит вопрос о последствиях такой гонки вооружений.

Пентагон разрабатывает роботов-истребителей, которые будут участвовать в боях вместе с пилотируемыми воздушными судами. Уже проходят испытания ракет, которые сами могут решать, какие цели атаковать, а также кораблей, которые будут охотиться на вражеские подводные лодки, преследуя их на протяжении тысяч миль без какой-либо помощи со стороны людей.

«Если бы Стэнли Кубрик снимал фильм -Доктор Стрейнджлав- сегодня, это был бы фильм о проблеме автономного оружия», - говорит Майкл Шраг, научный сотрудник Массачусетского технологического института.

Представители Минобороны говорят, что такое оружие необходимо Соединенным Штатам, чтобы поддерживать свое военное превосходство над Китаем, Россией и другими соперниками, которые также выделяют огромные деньги на аналогичные исследования, впрочем, как и союзники США Великобритания и Израиль. Согласно последнему бюджетному плану Пентагона, за следующие три года будет потрачено $18 млрд на технологии, необходимые для создания автономного оружия.

«Россия и Китай развивают боевые программы, которые не уступают нашим. Они могут посылать дистанционно управляемые снаряды на такие же расстояния, что и мы, - сказал Роберт Уорк, заместитель министра обороны, поддерживающий инициативу о создании автономного оружия. - Мы просто хотим обеспечить себе возможность одержать быструю победу, как нам это удавалось в прошлом».

Промышленная революция стимулировала создание мощных и разрушительных машин, самолетов и танков, как следствие, уменьшалась роль отдельных бойцов. Технологии ИИ позволят Пентагону изменить взаимодействие человека и машины на поле боя таким же образом, как оно меняется и в повседневной жизни, благодаря таким вещам, как, например, самоуправляющиеся автомобили.

Новое оружие будет непревзойденно быстрым и точным, что позволит сократить затраты на содержание солдат и пилотов, которые рискуют своими жизнями на поле боя. Задача Пентагона заключается в том, чтобы сделать оружие надежным помощником людей, а не потенциальной угрозой для них.

В основе стратегической перемены, которую собирается реализовать Пентагон, находится понятие о так называемом методе «кентавра», названном в честь существа из древнегреческой мифологии, получеловека-полулошади. Весь контроль будет осуществляться людьми, а автономное оружие будет лишь способом повысить боевой потенциал.

Уорк заявил, что, по задумке Пентагона, внедрение автономного оружия будет больше похоже на фильм «Железный человек», нежели на «Терминатор».

«Люди так переживают, что эти технологии будут как -Скайнет-, - сказал он, ссылаясь на корпорацию из фильма -Терминатор-. - Но мы представляем себе это совсем иначе».

«Человек всегда будет участвовать в принятии решения убить кого-то или оставить в живых, - добавил он.

Однако за пределами Пентагона многие сомневаются, что какие-либо ограничения будут сохраняться по мере появления все более совершенного «умного» оружия.

В прошлом году сотни ученых и экспертов в открытом письме выступили с предупреждением. По их мнению, разработка даже примитивного «умного» оружия может привести к глобальной гонке вооружений, в результате которой полностью автономные роботы, способные убивать, из-за своей дешевизны станут легкодоступными не только сверхдержавам, но и воинствующим экстремистам. «Автономное оружие станет автоматом Калашникова будущего», - говорится в письме.

Среди военных спор идет не о том, создавать автономное оружие или нет, а о том, какую степень свободы ему предоставить. Генерал ВВС Пол Сельва, вице-председатель Объединенного комитета начальников штабов, недавно заявил, что США способны за следующие 10 лет создать полностью автономного робота, который будет решать, кого и когда убивать, однако не намерены этого делать.

Но, по словам Сельвы, другие страны отстают не очень сильно, и велика вероятность того, что кто-то в конце концов попытается разработать «что-то вроде Терминатора».

Американские чиновники уже спорят о том, к каким последствиям может привести оружие, если оно выйдет из-под контроля своих создателей. Обсуждение этого вопроса не проходит без упоминаний знаменитой голливудской ленты: в Пентагоне эту проблему называют «парадоксом Терминатора». Нет единого мнения о том, следует ли США принимать международные договоры, чтобы попытаться установить запрет на создание подобных устройств, или же разрабатывать собственные, не уступающие тем, что могут быть произведены их противниками.

В своем нынешнем виде эти технологии не пугают. Например, маленький безоружный беспилотник, испытание которого проводилось на военном полигоне в Кейп-Код, не может самостоятельно запуститься и полететь. Ему нужны указания от людей - куда направиться и что искать. Но в воздухе он уже сам решает, как именно исполнять эти приказы.

Программное обеспечение беспилотника находилось в разработке почти год и было далеко не безупречным на момент первых испытаний. Пролетая над минаретом, аппарат долго пытался определить, что перед ним - архитектурный элемент или вооруженный человек. Наверное, из-за такой неуклюжести его шутливо назвали в честь другого робота, Бендера из мультсериала «Футурама».

Тем не менее иногда беспилотник демонстрировал жутковатую способность отличать солдат от гражданских, плавно менять курс и двигаться в сторону объектов, которые не мог быстро идентифицировать.

Оснащенный программами распознавания лиц, которые используются американскими спецслужбами, дрон умело отслеживал движущиеся фигуры и фокусировался на врагах, спрятавшихся вдоль стен. Устройство даже смогло определить, что фотограф, направивший объектив в его сторону, не представляет угрозы, тогда как в подобных ситуациях даже люди могут совершить смертельную ошибку: в июле 2007 года в Багдаде пилот американского вертолета по ошибке убил фотографа Reuters.

Проектом руководит DARPA (агентство передовых оборонных исследовательских проектов), компания, которая занимается разработкой программного обеспечения, необходимого для работы аппаратов с небольшими подразделениями солдат или морских пехотинцев.

В отличие от беспилотных летательных аппаратов, которые в настоящее время состоят на вооружении США, Бендеру не требуется дистанционное управления оператора. «Он полноценно работает с вами, это как иметь две головы вместо одной», - утверждает руководитель программы Кристофер Орловский.

Вооружить беспилотник уже сейчас не составит трудностей, сложность в другом: разработать машину, поведение которой было бы и предсказуемым, и достаточно гибким, чтобы справляться с непредвиденными ситуациями. Как только DARPA этого добьется, сказать роботу, кого ликвидировать, будет несложно. Оружие, запрограммированное стрелять только по определенным типам целей, существует уже сегодня.

Проблема также и в том, что технологии искусственного интеллекта вряд ли останутся только в руках американцев. Разработки DARPA обычно не хранятся в тайне, многие из них сейчас используются повсеместно - от самоуправляемых автомобилей до интернета.

С 1950-х годов военная стратегия США основывалась на совершенствовании технологий - от создания ядерного арсенала, который повышал американскую конкурентоспособность в начале холодной войны, до управляемых боеприпасов в последние годы конфликта с СССР.

Сейчас на смену приходят все новые технологии, такие как геномика и миниатюризация. Уорк заявляет, что искусственный интеллект и автономия найдут самое широкое применение в целом ряде проектов Минобороны.

На сегодняшний день программное обеспечение имеет свои ограничения. Компьютеры распознают последовательности гораздо быстрее людей, но совершенно не умеют справляться с неопределенными и непредсказуемыми ситуациями. Скрещивание этих двух навыков и является приоритетной задачей Пентагона создать «кентавра».

Уорк, которому сейчас 63 года, впервые предложил такую концепцию, когда руководил комиссией экспертов в Центре новых подходов к обеспечению американской безопасности. На идею его вдохновили не классические труды Сунь-Цзы или Карла фон Клаузевича, а книга «Конец усредненного» Тайлера Коуэна - американского экономиста, специалиста в области экономики культуры. В ней автор приводит пример того, как два средних шахматиста с помощью трех обычных компьютеров смогли обыграть и чемпиона мира по шахматам, и сверхмощную шахматную программу.

Для Уорка это стало откровением: «Мы можем использовать тактические сверхспособности компьютера, чтобы улучшить стратегическую изобретательность человека».

Он убежден, что пример с шахматами можно применить на поле боя: искусственный интеллект увеличит потенциал армии. Современные компьютеры превратят посредственных командиров в мастеров тактики. Солдаты при помощи ИИ станут сверхлюдьми, воюющими бок о бок с роботами, а может и внутри экзоскелетов.


Фото Hilary Swift для The New York Times

Из $18 млрд, которые Пентагон потратит на новые технологии, $3 млрд планируется выделить специально на проект «боевое объединение человека и машины». Это относительно небольшая сумма по меркам Пентагона, годовой бюджет которого составляет более $500 млрд, но существенная, учитывая, что эти технологии и стратегическую концепцию только предстоит показать в бою.

В то же время представители Пентагона говорят о том, что Соединенные Штаты вряд ли смогут получить абсолютное технологическое преимущество перед своими конкурентами.

«Большинство достижений в области искусственного интеллекта наблюдается в коммерческом производстве, поэтому конкуренты будут использовать эти технологии разными непредвиденными способами», - заявил Уорк.

Преимущество Америки, по его словам, будет заключаться в том, что Вооруженные силы США смогут объединить технологического превосходство и критическое мышление. В отличие от более централизованных китайских и российских вооруженных сил, американские военные делегируют права и ответственность на более низкие уровни своей цепи инстанций, однако и это может измениться.

«Мы уверены, что на старте у нас будет преимущество, - сказал Уорк. - Но мы не можем делать никаких предположений о том, сохранится ли оно».

Эксперты за пределами Минобороны США сомневаются, что Америка сможет сохранить свое господство с помощью технологий искусственного интеллекта. Оборонная промышленность больше не проводит научные исследования так, как делала это во время холодной войны, и Пентагон не обладает правами на многие передовые технологии, которые разрабатывают стартапы в Силиконовой долине, а также в Европе и Азии.

В отличие от технологий и материалов, необходимых для создания ядерного оружия или управляемых ракет, ИИ уже вписался в повседневную жизнь. Военная техника часто уступает той, что можно купить в магазине электроники.


Фото Hilary Swift для The New York Times 

«Давайте будем честными: американские военные подрядчики могут совершать прорыв в одних вещах, но при этом сильно отставать в других», - сказал майор Брайан Хили, пилот F-35, новейшего американского истребителя, который оснащен системой голосового управления. Хили утверждает, что эта система годится только на смену каналов радиосвязи.

«Было бы здорово привлечь специалистов компании Apple или Google с некоторыми их разработками программного обеспечения», - сказал он.

Помимо споров о практических проблемах, автономное оружие вызвало напряженную полемику среди ученых-юристов и специалистов по этике. Вопросов много, а ответы на них сомнительные. Можно ли доверить машине смертоносную силу? Кого винить, если робот нападет на больницу или школу? Как это рассматривать с точки зрения прав человека?

В директиве Пентагона говорится, что автономное оружие должно «делать суждения на человеческом уровне». Ученые и правозащитники говорят, что формулировка слишком широкая и что такое оружие подлежит «существенному контролю».

Но будут ли США придерживаться каких-то ограничений, если столкнутся с противником, равным себе по мощи, использующим полностью автономное оружие?

Питер Сингер, футуролог из комиссии экспертов New America, приводит параллель с историей развития военных подводных лодок. Как и автономное оружие, подлодки сошли в реальный мир со страниц научно-фантастических романов. Во время Первой мировой войны Германия с помощью таких лодок топила гражданские суда, что во всем мире воспринималось как варварство, из-за чего США вступили в войну.

После войны Америка помогла провести переговоры, чтобы в результате ограничить военные действия подводного флота. На международном уровне договор был принят.

7 декабря 1941 года японцы напали на Перл-Харбор. Вооруженным силам США понадобилось всего шесть часов, чтобы проигнорировать все правовые и этические нормы ведения подводной войны и уничтожить торговый флот с гражданскими, что впоследствии было признано равнозначным военным преступлением.

«Вот что происходит, когда подводные лодки уже не являются новой технологией, а мы несем потери, - сказал Сингер. - И подумайте об этом в контексте роботов».

Перевел Артем Салютин
Оригинал

Источник: openreporter.ru

Комментарии: