Пентагон использовал модель ИИ Claude*, разработанную Anthropic AI, в ходе операции американского спецназа по захвату президента Венесуэлы Николаса Мадуро, пишет Уолл-стрит джорнал

Операция по захвату Мадуро и его жены включала в себя бомбардировку нескольких объектов в Каракасе. По словам собеседников, внедрение Claude стало возможным благодаря партнёрству Anthropic с компанией Palantir Technologies, занимающейся обработкой данных, — её инструменты широко используются Минобороны и федеральными правоохранительными органами.

Обеспокоенность Anthropic возможным использованием Claude сотрудниками Пентагона подтолкнула чиновников администрации к тому, чтобы рассмотреть возможность расторжения контракта на $200 млн.

Глава разработчика Дарио Амодеи публично выражал обеспокоенность по поводу использования ИИ в операциях и внутренней слежке.

* Claude — это чат-бот с искусственным интеллектом, который предназначен для создания текстового контента и ведения беседы с пользователем. Он был создан Anthropic AI. Этот стартап в 2021 году основали брат и сестра Дарио и Даниэла Амодеи — бывшие вице-президенты OpenAI

Компания-разработчик Anthropic не позволяет применять свой продукт для содействия насилию, отмечает издание

Военное министерство США при проведении операции по захвату президента Венесуэлы Николаса Мадуро использовало ИИ-модель Claude, несмотря на запрет на применение этой технологии для содействия насилию. Об этом сообщила газета The Wall Street Journal (WSJ) со ссылкой на источники.

Как отмечается, политика Anthropic, компании - разработчика ИИ-модели, не позволяет применять Claude для содействия насилию, осуществления слежки, разработки оружия. "Мы не комментируем информацию об использовании Claude или иной ИИ-модели для проведения какой-либо конкретной операции, - заявил газете представитель Anthropic. - Использование Claude - как в частном секторе, так и в государственных структурах - должно соответствовать нашей политике использования, которая определяет способы применения Claude".

В конце января WSJ сообщала, что контракт между Пентагоном и Anthropic на сумму около $200 млн оказался под угрозой расторжения из-за разногласий в вопросе использования технологий искусственного интеллекта для слежки за людьми на территории Соединенных Штатов.

Источник: vk.com

Комментарии: