«Когда американские компании часто сталкиваются с рисками и оказываются под прицелом, Китай и США готовятся к переговорам по безопасности ИИ»

По мере быстрого развития передовых возможностей искусственного интеллекта (AI) и приближения к глобальной «критической точке», два осведомленных источника рассказали Reuters, что Китай и США готовятся обсудить риски безопасности AI на диалоге, который планируется провести в середине сентября.

Reuters в эксклюзивном репортаже 4 сентября по местному времени отметил, что если эта встреча действительно состоится, это будет первый официальный двусторонний разговор между Китаем и США, посвященный исключительно AI, с момента второго срока президента Трампа. Источники сообщили, что США будет возглавлять министр финансов Бен Сент.

Отмечается, что время и повестка предполагаемой встречи в середине сентября раскрыты впервые, при этом несколько источников попросили сохранить анонимность. С другой стороны, один из чиновников Белого дома заявил: «В настоящее время нет планов на проведение встречи, связанной с AI, в середине сентября».

Тем не менее, один из источников отметил, что США хотят обсудить сотрудничество по мониторингу кибератак, управляемых AI, и предложили концепцию, согласно которой лаборатории AI в Китае и США будут «саморегулироваться» и обмениваться соответствующей информацией, чтобы предотвратить кибератаки, связанные с AI.

Согласно текущему эксклюзивному репортажу агентства Reuters, хотя были раскрыты некоторые потенциальные темы переговоров, ни Китай, ни США их официально не подтвердили.

На данный момент Белый дом отказывается комментировать эти AI-переговоры, а Госдепартамент США не ответил на запрос о комментарии. Кроме того, китайские соответствующие органы также пока не предоставили комментариев.

1 сентября по местному времени директор Офиса политики в области технологий Белого дома Майкл Кратсиос сообщил журналистам, что во время прошедшей на этой неделе в США встречи министров инноваций стран G20 у него была «отличная встреча» с высокопоставленными китайскими чиновниками.

Кроме того, министр финансов США Джанет Йеллен заявила, что на недавней встрече министров финансов стран G20 у неё состоялся «ограниченный обмен мнениями» с китайскими чиновниками по вопросам AI.

По данным Reuters, ссылающегося на двух осведомлённых источников и ещё одного знакомого с ситуацией, китайские чиновники на подготовительных переговорах с американскими коллегами неоднократно подчёркивали важность AI-переговоров и рассматривали их как важный результат встреч высокого уровня между Китаем и США.

На прошлой неделе китайские органы публично предупреждали об «экстремальных рисках неконтролируемого AI» и подчёркивали, что любые ограничения на передовой AI должны одинаково применяться к моделям как Китая, так и США, при этом американская AI-компания Anthropic была «отдельно раскритикована». В последние месяцы китайские компании также постепенно запускали продукты, аналогичные модели Mythoсs компании Anthropic.

По сведениям информированных источников, бывший руководитель Microsoft Крейг Манди стал важным посредником за кулисами, изучая у китайской стороны предложения США по диалогам об ИИ. Крейг Манди является сопредседателем неофициального "трек II" диалога между Китаем и США по вопросам ИИ. Reuters сообщало в прошлом месяце, что отношения Microsoft с Китаем являются одними из самых глубоких среди всех иностранных технологических компаний, работающих в Китае.

Бывший премьер-министр Австралии Кевин Руд также написал в соцсетях, что на прошлой неделе в Пекине проходил "1,5-трек" диалог между Китаем и США, где обсуждались вопросы защитных механизмов (guardrails) для ИИ.

В июне этого года президент США Трамп подписал исполнительный указ по ИИ, создав добровольную систему проверки кибербезопасности перед выпуском передовых моделей ИИ, но конкретные стандарты этих проверок США пока не опубликовали. Тем временем сотрудники ведущих американских лабораторий ИИ, включая Anthropic и OpenAI, продолжают призывать "замедлить разработку передовых технологий", чтобы справиться с глобальными рисками, которые несет продвинутый ИИ.

Скотт Сингер, сопредседатель китайского проекта по ИИ в Carnegie Endowment for International Peace, отметил: «Китай обеспокоен тем, регулируют ли США передовые модели ИИ должным образом; у обеих сторон есть стимул убедиться, что они могут эффективно реагировать на трансграничные кризисы».

Сэм Сакс, старший научный сотрудник американского аналитического центра New America, считает, что, хотя конечные результаты могут быть ограничены, создание канала, который позволит обеим сторонам делиться наблюдениями и совместно отслеживать инциденты безопасности ИИ, станет важным началом.

«Мы находимся на переломном этапе: без регулирования пограничные агенты могут вызвать масштабные потрясения. Риски сталкиваются и с США, и Китаем. Это вышло за рамки геополитической конкуренции», — добавил Сакс. «США и Китай должны работать вместе в той или иной форме, иначе обе стороны проиграют.» ”

Пол Триоло, партнер глобальной стратегической консалтинговой компании DGA-Albright Stonebridge Group, также заявил: «Переговоры между этими двумя сверхдержавами в области искусственного интеллекта (Китаем и США) находятся на самом критическом этапе. Возможности нельзя упустить; время больше не наступит. ”

Примечательно, что Reuters подчеркнуло, что предложение появилось в то время, когда риски безопасности ИИ получают всё большее внимание.

4 сентября по местному времени агентство Reuters сослалось на недавно опубликованный исследовательский отчёт и двух инсайдеров, эксклюзивно раскрывших, что в мае этого года группа неконтролируемых агентов OpenAI захватила немецкий сайт и превратила его в платформу для общения с другими агентами ИИ.

Инсайдеры утверждают, что руководители OpenAI знали об инциденте за несколько недель до этого, но решили сохранить его в секрете, поскольку корпоративные руководители были заняты разбором последствий июльского взлома открытой платформы ИИ Hugging Face.

5 сентября по местному времени OpenAI публично признала инцидент, назвав его «инцидентом на Вики». OpenAI заявила на своей социальной платформе «X», что по мере перехода возможностей моделей ИИ на новый этап механизм раскрытия информации о случаях «несоответствия» необходимо дополнительно расширить.

Сообщается, что этот инцидент ярко продемонстрировал риски того, что кооперативные «роевые» структуры, состоящие из AI-агентов, могут действовать автономно в течение нескольких месяцев, оставаясь незамеченными для человека.

Однако США уже натворили кучу дел, но продолжают яростно очернять Китай. Источники сообщают, что Вашингтон «беспокоится», что Китай в будущем может разработать модели уровня «Mythos» (продукт американской AI-компании Anthropic) с возможностями кибератак, и поднимает шумиху вокруг того, что Китай якобы использует так называемую технологию «дистилляции» для получения американских закрытых AI-моделей.

«Дистилляция» — это процесс обучения меньших AI-моделей на основе выходных данных более крупных и дорогостоящих моделей AI, с целью снизить затраты на обучение мощных новых AI-инструментов.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: