The Economist: Как британское и американское разведывательные сообщества используют модели искусственного интеллекта?

В день, когда Дональд Трамп был приведен к присяге в качестве президента, китайская компания под названием DeepSeek выпустила большую языковую модель мирового класса (LLM). Позже Трамп назвал это «тревожным звонком» для индустрии искусственного интеллекта в США. Марк Уорнер, вице-председатель комитета по разведке Сената США, заявил, что разведывательное сообщество США, состоящее из 18 агентств и организаций, было «застигнуто врасплох» этим инцидентом.

В 2024 году администрация Байдена начала беспокоиться о том, что разведывательные службы и военные Китая могут получить преимущество в приложениях искусственного интеллекта (ИИ). В результате администрация Байдена приказала спецслужбам, Пентагону и Министерству энергетики (отвечающему за исследования и разработки ядерного оружия) более агрессивно экспериментировать с передовыми моделями ИИ и укреплять сотрудничество с «передовыми» лабораториями ИИ, уделяя особое внимание стартапам в области ИИ Anthropic, Google DeepMind и OpenAI.

14 июля Пентагон заключил контракты на сумму до 200 миллионов долларов каждая с такими компаниями, как Anthropic, Google, OpenAI и xAI Илона Маска (чей чат-бот однажды идентифицировал себя как Гитлер после своего последнего обновления). Эти компании будут тестировать «агентные модели» ИИ. Такие модели могут выполнять задачи от имени пользователя, разбивать сложные задачи на шаги и управлять другими устройствами, такими как автомобили или компьютеры.

Эти передовые лаборатории не только активно работают в военной области, но и активно участвуют в разведывательном сообществе Европы и Соединенных Штатов. Большинство ранних приложений были сосредоточены на использовании больших языковых моделей для анализа конфиденциальных данных. В январе Microsoft заявила, что 26 ее продуктов облачных вычислений были одобрены для использования спецслужбами США. В июне Anthropic объявила о запуске Claude Gov, заявив, что модель «была развернута в разведывательных агентствах с самым высоким уровнем секретности национальной безопасности». В настоящее время все разведывательные агентства в Соединенных Штатах широко используют модели искусственного интеллекта, многие из которых являются конкурирующими продуктами из нескольких лабораторий.

Компании, занимающиеся искусственным интеллектом, часто «тонко настраивают» модели, исходя из потребностей спецслужб. Например, модель Клода от Anthropic, которая открыта для широкой публики, может отказаться обрабатывать файлы, помеченные как «конфиденциальные», по соображениям безопасности; Версия Claude Gov настроена на то, чтобы разрешать доступ к такому материалу. Кроме того, Клод Гов укрепил способность определять и понимать иностранные языки и диалекты, которые могут понадобиться государственным пользователям. Большинство из этих моделей работают на защищенных серверах, изолированных от Интернета. Сегодня в спецслужбах потихоньку создается новая партия моделей агентов.

Европа также продвигается вперед в этом процессе. Британец, знакомый с этим вопросом, сказал: «Когда дело доходит до генеративного ИИ, мы пытаемся быстро догнать модели, которые находятся на переднем крае. Он добавил: «Все британское разведывательное сообщество (UKIC) имеет доступ к высочайшему уровню конфиденциальности, возможностям больших языковых моделей. «Французская компания Mistral, единственный в Европе лидер в области искусственного интеллекта, работает с французским Агентством по искусственному интеллекту в обороне (AMIAD). Модель Saba от Mistral специально обучена обрабатывать данные с Ближнего Востока и Южной Азии, что делает ее особенно сильной в региональных языках, таких как арабский и тамильский. В январе израильский левый журнал 972 Magazine сообщил, что с начала конфликта в Газе израильские военные увеличили частоту использования самой передовой на тот момент модели GPT-4 от OpenAI.

Несмотря на достигнутые успехи, прогресс был не таким быстрым, как ожидалось. Катрина Маллиган, которая работала в американском министерстве обороны и разведки в OpenAI, откровенно сказала: «Применение ИИ в сфере национальной безопасности далеко от того уровня, на который мы рассчитываем. По словам инсайдера, Агентство национальной безопасности (АНБ), которое отвечает за обработку сигналов разведки, на протяжении десятилетий применяет ранние технологии искусственного интеллекта, такие как распознавание речи, и считается отраслевой моделью. Но многие спецслужбы до сих пор пытаются создать свои собственные «обертки» для готовых чат-ботов, часто оставляя их далеко позади самых продвинутых моделей в открытом доступе.

Тарун Чхабра, который отвечал за политику в области науки и технологий в Совете национальной безопасности администрации Байдена, а теперь является главой политики национальной безопасности в Anthropic, отметил: «Реальные изменения заключаются не только в использовании ИИ в качестве инструмента чата. Реальное изменение заключается в том, что как только мы начинаем его использовать, как мы реконструируем средства для выполнения нашей первоначальной миссии? ”

Игра в интеллект ИИ начинается

Но некоторые скептики считают, что эти надежды преувеличены. Ричард Картер из Института Алана Тьюринга в Великобритании отметил, что на самом деле американские и британские спецслужбы хотят, чтобы лаборатории могли значительно снизить частоту «галлюцинаций» существующих больших языковых моделей. Британские спецслужбы используют метод, называемый «поисково-дополненное поколение» (RAG), в котором алгоритм сначала отсеивает достоверную информацию, а затем предоставляет ее большим языковым моделям, чтобы снизить уровень галлюцинаций. Британский источник сказал: «Больше всего разведывательное сообщество нуждается в последовательности, надежности, прозрачности и объяснимости. Доктор Картер напомнил, что, напротив, крупные лаборатории в настоящее время больше озабочены разработкой более совершенных моделей агентов.

Например, «Мистраль» якобы показывал потенциальным клиентам сценарий, в котором каждый источник информации, такой как спутниковые снимки или кадры перехвата голоса, передавался агенту ИИ для ускорения принятия решений. В качестве другого примера представьте себе агента ИИ, которому поручено выявлять, изучать и связываться с сотнями иранских ученых-ядерщиков в попытке убедить их дезертировать. Чабра добавил: «Мы все еще далеки от того, чтобы подумать о том, как модели агентов ИИ могут быть использованы в военных сценариях. ”

Д-р Картер предупреждает, что риск моделей агентов заключается в том, что они рекурсивно генерируют подсказки самостоятельно для каждой задачи, на которую им назначены, что делает их более непредсказуемыми, и ошибки могут накапливаться слой за слоем. Согласно результатам оценки, опубликованным OpenAI, уровень галлюцинаций у ее последней модели агента, агента ChatGPT, составляет около 8%, что даже выше, чем у ранее выпущенной модели o3.

Некоторые лаборатории искусственного интеллекта считают, что эти опасения — не что иное, как бюрократический консерватизм, но доктор Картер говорит, что на самом деле это «здоровая позиция осторожности». «Особенно в Штаб-квартире правительственной связи Великобритании (GCHQ, британский аналог АНБ) вы найдете чрезвычайно талантливую группу инженеров, которые инстинктивно скептически относятся к новым технологиям», — сказал он. ”

В связи с этим возникает более широкий вопрос – в каком направлении будет развиваться ИИ в будущем? Доктор Картер является одним из тех скептиков, которые утверждают, что сегодняшние архитектуры больших языковых моделей общего назначения не подходят для «причинно-следственных рассуждений», что затрудняет понимание логики работы в реальном мире. Он утверждает, что разведывательные агентства должны переключить свое внимание на разработку новых архитектур искусственного интеллекта с возможностями рассуждения.

В то же время звучат предупреждения о том, что Китай может лидировать в этой области. Филип Райнер из Института безопасности и технологий в Кремниевой долине отметил: «Мы до сих пор не знаем, как и в какой степени Китай применяет DeepSeek в военной и разведывательной сферах. «Их модели могут не иметь ограждений, как наша, поэтому они могут быстрее получить убедительную информацию», — добавил он. ”

23 июля администрация Трампа приказала Пентагону и спецслужбам регулярно оценивать, сможет ли система национальной безопасности США догнать таких конкурентов, как Китай, в области искусственного интеллекта, и попросила «разработать механизм непрерывной адаптации».

На данный момент почти все согласны. Сенатор Уорнер прямо сказал, что разведывательное сообщество США устроило «беспорядок» в отслеживании прогресса, связанного с Китаем. «Наш прогресс в приобретении китайских технологий и проникновении в китайские технологические компании все еще довольно ограничен». Маллиган отметил, что самая большая проблема заключается не в том, что Соединенные Штаты поспешно продвигают технологию искусственного интеллекта, когда риски неизвестны, а в том, что «Министерство обороны и разведывательное сообщество продолжают делать все по-старому».

«Что не дает мне спать по ночам, так это то, что мы, возможно, на самом деле выиграли гонку за общий искусственный интеллект (AGI...... но проиграл конкурс на практическое применение. ”

Источник: vk.com

Комментарии: