США заставили Anthropic отключить пугающе мощные модели Fable 5 и Mythos 5 из-за рисков национальной безопасности

Компания Anthropic приостановила работу мощнейших моделей искусственного интеллекта Fable 5 и Mythos 5 после того, как власти США выразили обеспокоенность по поводу безопасности всего через несколько дней после ее публичного выпуска.

«В результате этого распоряжения нам приходится отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований», — написала компания, добавив, что в письме не содержалось конкретных деталей, касающихся опасений в отношении национальной безопасности.

«Насколько нам известно, правительство считает, что ему стало известно о способе обхода или «взлома» Fable 5, — заявила компания. — Мы изучили демонстрацию применения этой конкретной методики для выявления небольшого числа ранее известных незначительных уязвимостей. Все эти уязвимости кажутся относительно простыми, и мы обнаружили, что другие общедоступные модели также способны их обнаруживать без необходимости обхода защиты».

В преддверии выхода Claude Fable 5 компания рекламировала различные «меры безопасности», которые она внедрила для предотвращения кибератак. Компания Anthropic заявила, что предоставила предварительный доступ к инструменту лишь нескольким организациям, поскольку он был настолько интеллектуальным, что мог представлять опасность из-за своей способности взламывать компьютерные системы.

Компания заявила, что модель «слишком мощная» еще до официального релиза Claude Fable 5, что некоторые критики сочли преувеличенной шумихой и маркетинговым ходом.

«Возможности Fable превосходят возможности любой модели, которую мы когда-либо выпускали», — заявила компания.

Anthropic — это американская компания в сфере искусственного интеллекта, известная созданием популярного семейства нейросетей Claude. Ее основали в 2021 году бывшие топ-менеджеры OpenAI — брат и сестра Дарио и Даниэла Амодеи.

Телеграм: t.me/ainewsline

Источник: www.ixbt.com

Комментарии: