О внедрении ИИ в вооружённые силы США

Военный министр США Пит Хегсет объявил о запуске платформы GenAI. mil, назвав её «будущим американских войн». Проект представляет собой настраиваемый чат-бот интерфейс, созданный на базе Google Gemini.

Доступ к системе получат все 3 миллиона военнослужащих, гражданских специалистов и подрядчиков Пентагона. По задумке, ИИ должен будет устранить задержки в решении задач планирования, аналитики и логистики, для выполнения которых исторически требовалось несколько дней или недель.

На что реально способен GenAI?

Платформа сертифицирована для работы с несекретной, но чувствительной информацией — GenAI планируют применять для разработок планов логистики, анализа изображений и видео с дронов, а также для обработки спутниковых снимков, административных и кадровых документов.

Главное отличие от обычного ChatGPT — военный ИИ сможет извлекать информацию из внутренних баз данных Пентагона и обрабатывать её в реальном времени.

В ходе эксперимента, проведённого ВВС США, GenAI создал 10 вариантов боевых планов за 8 секунд, в то время как военнослужащие смогли представить только три плана за 16 минут.

Однако не все так гладко, как может показаться, поскольку в нынешнем виде продукт содержит определенные уязвимости.

А какие риски?

Они довольно внушительные: платформа откроет доступ 3 млн пользователям, что создаёт крайне высокую возможность получения доступа к системе со стороны других государств. Скомпрометированная учётная запись солдата может стать входной точкой для противника, который впоследствии сможет манипулировать ИИ и использовать полученную информацию в своих целях.

Если противник внедрит ложные данные в системы, питающие ИИ, то генеративный интеллект начнёт выдавать некорректные оценки разведданных и ошибочные рекомендации по планированию боевых действий. В конце концов это приведет к тому, что командиры будут опираться на целиком сфальсифицированные данные.

Ошибки нейросети в анализе могут привести к идентификации неправильных целей, что в условиях боевой напряженности способно спровоцировать незапланированную эскалацию.

Степень эффективность данной нейросети и ее возможностей по реальной оптимизации получится определить только по результатам эксплуатации. С высокой вероятностью США быстро столкнутся с упомянутыми «узкими местами».

Однако сам факт появления «военной нейросети» в виде чат-бота уже наглядно иллюстрирует роль подобных вещей в передовых армиях. Людей они пока не заменят, но вполне способны упростить многие процессы.

Ну а главными же выгодоприобретателями в очередной раз становятся технологические гиганты: их очень интересуют вкусные контракты с Пентагоном, за которые на ниве борьбы с «китайской ИИ-угрозой» можно запросить почти любой ценник.

Источник: vk.com

Комментарии: