Anthropic отказала Пентагону

Военные потребовали до вечера пятницы снять все лимиты на использование нейросети Claude, чтобы та могла рулить автономным оружием и массово следить за гражданами. В случае отказа чиновники пригрозили повесить на ИИ-лабораторию ярлык "угрозы нацбезопасности" и принудительно нагнуть их через закон военного времени. Anthropic уперлась рогом.

Амодеи говорит, что модели пока недостаточно надёжны для автономного летального применения, и даже предлагал Пентагону совместные исследования надёжности, но ведомство отмахнулось  

С одной стороны генералы угрожают компании расправой, а с другой отчаянно в ней нуждаются. В самом Пентагоне признают, что Claude сейчас единственная ИИ-модель, которая реально работает в засекреченных военных контурах США. Да и сама Anthropic не строит из себя радикальных пацифистов, они давно пилят кастомные версии для нацбезопасности и режут доступ клиентам из Китая, теряя миллионы.

Anthropic осталась последней крупной ИИ-лабораторией, которая не прогнулась. Если Пентагон исполнит угрозы, применение Defense Production Act против американской техкомпании в таком формате станет прецедентом и почти гарантированно уедет в суд.

Источник: vk.com

Комментарии: