Даже Сэм Альтман испугался. Открытое письмо разработчиков ИИ призывает тормозить

Более 1100 исследователей, разработчиков и топ-менеджеров из Meta*, Anthropic, OpenAI и Google подписали открытое письмо-петицию Pacing the Frontier («Замедление передовых моделей»). Они призывают правительство США принудительно замедлить развитие нейросетей.

Исходя из наших исследований рекурсивного самоулучшения, мы видим, что нужно создать инструменты для целенаправленного замедления передовых моделей — чтобы общество могло подготовиться. - комментарий Anthropic к петиции.

Подписанты утверждают, что из-за «ИИ-гонки» и конкурентного давления ведущие лаборатории и страны в целом «не могут в одностороннем порядке замедлять эти темпы».

Инициатива могла появиться на фоне инцидента, когда агент на базе модели GPT-5.6 Sol от OpenAI взломал Hugging Face (GitHub для ИИ) без ведома компании полагая, что там могут храниться правильные ответы. Он смог «сбежать» из изолированной среды во время тестирования — нашёл уязвимость «нулевого дня» в одной из внутренних систем и получил доступ в интернет. Сэм Альтман признался, что это первый инцидент, который он воспринял «очень остро».

Событие может стать поворотным для отрасли. Способности агентов растут быстрее, чем средства контроля над ними, и индустрия начала это признавать публично.

*признана в России экстремистской организацией и запрещена.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: