Пентагон оказывает давление на ведущие компании в области ИИ, чтобы они предоставили доступ к своим инструментам ИИ в засекреченных сетях без многих стандартных ограничений, которые эти компании

Как сообщает агентство «Рейтерс», во время мероприятия в Белом доме во вторник главный технический директор Пентагона Эмиль Майкл заявил руководителям технологических компаний, что военные стремятся сделать модели ИИ доступными как в несекретных, так и в секретных областях. Было сказано, что Пентагон «приступает к развёртыванию передовых возможностей ИИ на всех уровнях секретности».

Это последнее событие в продолжающихся переговорах между Пентагоном и ведущими компаниями, занимающимися генеративным ИИ, о том, как США будут использовать ИИ на будущем поле боя, которое уже сейчас находится под доминированием автономных роев дронов, роботов и кибератак. Налицо стремление военных использовать ИИ без ограничений и возможности для технологических компаний устанавливать границы в отношении того, как используются их инструменты.

Многие компании, занимающиеся ИИ, разрабатывают специализированные инструменты для вооружённых сил США, большинство из которых доступны только в несекретных сетях, обычно используемых для военного управления. Секретные сети используются для выполнения широкого спектра более конфиденциальной работы, которая может включать планирование миссий или наведение оружия на цель. Пока не известно, как и когда Пентагон планирует развернуть чат-боты с ИИ в секретных сетях.

Военные чиновники надеются использовать возможности ИИ для синтеза информации, чтобы принимать обоснованные решения. Но, несмотря на мощь этих инструментов, они могут допускать ошибки и даже выдумывать информацию, которая на первый взгляд может показаться правдоподобной. По словам исследователей ИИ, подобные ошибки в секретной обстановке могут иметь смертельные последствия.

Компании, занимающиеся ИИ, стремятся минимизировать негативные последствия использования своих продуктов, внедряя в свои модели механизмы защиты и требуя от клиентов соблюдения определённых правил. Однако представители Пентагона резко реагируют на такие ограничения, утверждая, что они должны иметь возможность развёртывать коммерческие инструменты ИИ, если они соответствуют американскому законодательству.

На этой неделе компания «ОупенАИ» (OpenAI) заключила соглашение с Пентагоном, позволяющее военным использовать её инструменты, включая «Чат-джи-пи-ти», в несекретной сети genai.mil. Эта программа была внедрена для более чем 3 миллионов сотрудников Министерства обороны. В рамках соглашения компания согласилась снять многие из своих обычных ограничений для пользователей, хотя некоторые защитные механизмы остаются.

В своем заявлении компания сообщила, что соглашение, достигнутое на этой неделе, касается исключительно несекретного использования через genai.mil. Для расширения этого соглашения потребуется новое или изменённое соглашение, заявил представитель.

Аналогичные дискуссии между компаниями и Пентагоном были значительно более напряжёнными. Так, руководители компании «Антропик» (Anthropic) заявили военным, что не хотят, чтобы их технология использовалась для автономного наведения оружия и проведения внутреннего наблюдения США. Среди продуктов компании — чат-бот по имени «Клод» (Claude).

Источник: vk.com

Комментарии: