Anthropic приостанавливает выпуск новых моделей искусственного интеллекта в соответствии с распоряжением правительства

По данным компании, в пятницу вечером правительство США потребовало от Anthropic запретить иностранным гражданам доступ к новейшим и самым мощным моделям искусственного интеллекта.

Компания Anthropic, создавшая популярного чат-бота Claude, заявила, что в соответствии с директивой ей пришлось отключить доступ к Fable 5 и Mythos 5 для всех клиентов, а не только для иностранных граждан.

«Правительство США, ссылаясь на органы национальной безопасности, издало директиву об экспортном контроле, согласно которой все иностранные граждане, как внутри США, так и за их пределами, в том числе иностранные сотрудники Anthropic, не имеют права пользоваться Fable 5 и Mythos 5», — написала компания в заявлении, опубликованном в интернете поздно вечером в пятницу.

Решение компании Anthropic приостановить доступ пользователей к своей платформе, по всей видимости, стало первым случаем, когда ведущая компания в сфере искусственного интеллекта отключила общедоступную модель из-за вмешательства федерального правительства.

«В результате выполнения этого приказа мы вынуждены немедленно отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований», — написала компания.

На главной странице Клода было написано, что «Fable 5 временно недоступна» по состоянию на вечер пятницы.

По словам представителя администрации, письмо с директивой было отправлено министром торговли Говардом Лутником и составлено при участии сотрудников Бюро промышленности и безопасности Министерства торговли.

Министерство торговли не сразу ответило на запрос о комментарии.

В своем заявлении компания Anthropic сообщила, что правительство выявило конкретный метод, который позволяет пользователям обходить некоторые ограничения Fable 5. В пятницу вечером было неясно, почему Министерство торговли так обеспокоено тем, что иностранные граждане могут воспользоваться этой уязвимостью, или «взломом».

В Anthropic также заявили, что правительство предоставило лишь «устные доказательства» наличия проблемы, и предположили, что обходной путь, скорее всего, использовался и в системах искусственного интеллекта, разработанных другими компаниями.

«Мы не согласны с тем, что обнаружение потенциально уязвимого приложения должно стать поводом для отзыва коммерческой модели, установленной у сотен миллионов пользователей», — говорится в заявлении компании.

Компания Anthropic выпустила Fable 5 и Mythos 5 во вторник, назвав новые модели самыми мощными системами искусственного интеллекта из всех, что она когда-либо представляла. Компания заявила, что эти модели искусственного интеллекта достаточно сильны, чтобы обеспечить строгие меры безопасности для предотвращения их злонамеренного или опасного использования.

«Выпуск такой мощной модели сопряжен с рисками. Без мер предосторожности возможности Fable 5 в таких областях, как кибербезопасность, могут быть использованы не по назначению и нанести серьезный ущерб», — заявила компания Anthropic в своем заявлении во вторник.

Несмотря на то, что обе модели были созданы на одной и той же технической основе, широкой публике была представлена только Fable 5. Модель Fable накладывает гораздо более строгие ограничения на типы вопросов, которые могут задавать пользователи, особенно на вопросы, связанные с кибербезопасностью и биологией. Mythos 5, в свою очередь, была представлена без таких ограничений избранной группе доверенных партнёров, в которую вошли ключевые компании в сфере кибербезопасности и инфраструктуры.

В Anthropic заявили, что, по их мнению, распоряжение, опубликованное в пятницу, было вызвано «недоразумением», и выразили надежду на скорейшее восстановление доступа к Fable 5 и Mythos 5.

Распоряжение, изданное в пятницу, стало очередным витком непростых отношений между компанией Anthropic и федеральным правительством. В феврале президент Дональд Трамп и министр обороны Пит Хегсет приняли решение запретить использование продуктов Anthropic в федеральных агентствах после того, как компания потребовала усилить контроль за тем, как Пентагон использует ее технологии. Тогда Трамп опубликовал в Truth Social пост о том, что «левые фанатики из Anthropic совершили КАТАСТРОФАЛЬНУЮ ОШИБКУ, пытаясь надавить на Министерство обороны».

Позже Anthropic подала в суд на администрацию, утверждая, что администрация нарушила право Anthropic на свободу слова. Федеральный судья в Калифорнии вынес решение в пользу Anthropic, но дело продолжает рассматриваться в федеральном суде Вашингтона.

Несмотря на разногласия, в последние недели Anthropic и администрация, казалось, пришли к взаимопониманию. На прошлой неделе Financial Times сообщила, что Агентство национальной безопасности использовало Mythos для проведения наступательных кибератак.

2 июня Трамп подписал знаковый указ об искусственном интеллекте. Указ предписывает федеральным агентствам усилить киберзащиту правительства и разработать механизм, который позволит правительству на добровольной основе получать ранний доступ к самым мощным моделям искусственного интеллекта от таких компаний, как Anthropic и OpenAI.

«Мы считаем, что правительство должно иметь возможность блокировать небезопасное развертывание систем в рамках установленного законом процесса, который должен быть прозрачным, справедливым, понятным и опираться на технические факты. Эта мера не соответствует этим принципам», — говорится в заявлении Anthropic, опубликованном в пятницу в связи с выходом директивы.

Телеграм: t.me/ainewsline

Источник: www.nbcnews.com

Комментарии: