Очень чётко обозначили тезисы из моего материала о перспективе появления робосолдат с ИИшными мозгами на поле боя коллеги из ТГ канала «Узел Связи»

«Коллега подняла очень важную и крайне актуальную на сегодня тему: состоявшиеся в Поднебесной Пекинские игры человекоподобных роботов - лишь красивая витрина. Настоящая новость прозвучала после них, когда издание НОАК призвало быстрее переносить гражданские разработки из лабораторий на военные полигоны.

Но за образом «железного солдата» легко пропустить более важный процесс. Армии соревнуются не за самого эффектного гуманоида, а за возможность максимально сократить путь от обнаружения цели до принятия решения и применения оружия.

Отмечу основные нарративы, на которые стоит обратить внимание в материале.

 Решать будет не демонстрационный робот, а промышленная база:

китайское преимущество заключается не только в искусственном интеллекте. За ним стоят производство электроники, аккумуляторов, приводов, датчиков и возможность выпускать машины крупными сериями. США отвечают огромными бюджетами и венчурной экосистемой. Россия делает ставку на массовые, ремонтопригодные и сравнительно недорогие решения, уже проверяемые в боевой обстановке.

 Зависимость от ИИ становится новой военной уязвимостью:

армия, которая разучилась действовать без автоматизированной системы, рискует потерять боеспособность после нарушения связи, подавления навигации, кибератаки или повреждения центров обработки данных. Это такой же стратегический запас, как топливо, боеприпасы и ремонтные мощности.

 Роботизация делает войну доступнее: автономные машины снижают собственные потери, уменьшают потребность в личном составе и ослабляют общественную реакцию на начало боевых действий. Это опасный эффект: технологии, призванные беречь жизни военнослужащих, одновременно способны снизить порог принятия решения о войне.

 Главный приз гонки - автономный боевой контур.

Революция начинается там, где разведывательный дрон, система распознавания, командный пункт и средство поражения объединяются в одну цепочку:

обнаружил - распознал - выбрал - поразил - проверил результат.

Роботы на войне неизбежны. Вопрос уже не в том, появятся ли они, а в том, какие полномочия им передадут.

Игнорировать автономные технологии - значит готовить себе военное поражение. Передать им неограниченное право решать, кому жить, - значит приблизить поражение цивилизационное.

Главная битва будущего развернется не между человеком и машиной. Она пойдет за право человека устанавливать машине пределы - и сохранять возможность сказать ей "нет"» ? — ПИШЕТ «УЗЕЛ СВЯЗИ», конец цитаты: https://vk.cc/d1KLA4

ЧТО ЖЕ ДРУЗЬЯ, РЕЗЮМИРУЯ, Я СКАЖУ ТАК: всё человечество давно и прочно загнано в циничную яму. Высокие технологии, в том числе, интернет, компьютеры и навороченные смартфоны стоило бы оставить сугубо военной, промышленной и научной сферам (разумеется, со строжайшим контролем над ними и при условии рационального применения, которое прежде следовало бы выработать нормативно и придерживаться его неотступно), не пуская их в народ. Но это же не то, верно? Ну конечно. И ставка на массовое распространение была вполне сознательной, и она более чем сыграла. Интернет и его носители вышли из военно-академической среды в массовую по заветным коммерческому, потребительскому, геополитическому векторам. Сеть закономерно стала не только инструментом знания и связи, но и рынком внимания, инфраструктурой контроля, средой, где человек одновременно и пользователь, и товар.

Экзистенциальный страх — базовая, глубинная основа человеческих мотиваций — должен быть на весах решений тяжелее? Такой пассаж, при том, здравый, прозвучал в комментариях к моему посту. Увы. Если бы это было так, то человек не освоил бы даже палку как копьё. Но он не просто освоил: всё цивилизационное развитие, написано кровью и вымощено костями — оправданными и неоправданными. Страх здесь — топливо: он заставляет вооружаться, опережать, строить, закрывать уязвимости. А вот вопрос «кто им управляет и куда направляет» — действительно вопрос.

Человек же не убоялся в конце концов сделать себя заложником оружия массового поражения. А ядерное сдерживание — не победа над страхом, а его бюрократизация. Промежуточные точки невозврата давно пройдены; за них можно считать любой виток прогресса — несущий благо, но приближающий финальную, катастрофическую точку. Прогресс не отменяет насилие, а переоснащает его. Он делает инструменты изощрённее, дороже и всё более автономными.

Да, формально воюют субъекты права, а роботы, как и любое оружие — инструмент. Но здесь есть важная оговорка: чем автономнее система, тем сильнее размывается ответственность. Инструмент, который сам выбирает цель, перестаёт быть просто продолжением воли. Он становится участником, пусть и без субъектности. ИИ в этом смысле — не просто очередное оружие. Это среда, ускоритель решений, замена посредников, инструмент, который переписывает правила самой инструментальности.

И чем дальше идёт прогресс, тем изощрённее и дороже становится инструментарий — не только военный. В этих условиях страх не может быть универсальным тормозом: пока есть жила, сильные мира будут разрабатывать её ради наживы. Экономика, конкуренция, геополитика, рынки — всё это подталкивает к движению вперёд даже тогда, когда разум нет-нет да заикается об остановке. Причём, страх распределён неравномерно: те, кто принимает решения, часто не несут последствий; те, кто несёт — не решают. Поэтому надежда на то, что человечество вовремя испугается и остановится — наивна. Испуг — не институт. Осторожность — не то же самое, что страх: она требует правил, тормозов, снова — ответственности и механизмов, которые не зависят от доброй воли отдельных акторов.

В итоге проблема не в том, что человек не боится. Проблема в том, что он боится недостаточно коллективно и слишком поздно. И циничность, в том числе, и в этом: человечество и отдельные его деятели и властители видят край — и всё равно идут вперёд.

Потому что остановиться для одних — значит в тот же миг проиграть другим — тем, кто не остановится.

Ирина Альшаева, журналист, военно-политический аналитик, писатель?

Телеграм: t.me/ainewsline

Источник: t.me

Комментарии: