Система контроля за Искусственным интеллектом – инициатива Google

Демис Хассабис, соучредитель и генеральный директор Google DeepMind, лауреат Нобелевской премии, в топе новостей и комментариев от представителей значительной части индустрии ИИ, включая своих основных конкурентов. Отметились генеральный директора OpenAI Сэм Альтман, генеральный директор Microsoft Сатья Наделла, соучредитель Block  Джек Дорси и многие другие.

На пороге сингулярности ИИ Д. Хассабис в свое программной статье «Рамки для передового ИИ и рассвет новой эры» (от 14 июля 2026 г.) предлагает создать орган надзора за Искусственным интеллектом, ответственный за стандартизацию отрасли, финансируемой промышленностью, но работающей совместно с правительством.

См.: Exclusive: Google DeepMind's Demis Hassabis calls for U.S.-led global AI watchdog / https://www.axios.com/2026/07/14/demis-hassabis-ai-regulation-google-deepmind

Он считает, что появление AGI (общего искусственного интеллекта) – вопрос ближайших нескольких лет. Государство не успевают за прогрессом, поэтому Хассабис предлагает создать Frontier AI Standards Body. Это гибридный надзорный орган под эгидой правительства, но полностью финансируемый самой ИИ-индустрией. В качестве образца взята FINRA – американская частная организация, которая успешно регулирует Уолл-стрит под надзором Комиссии по ценным биржам (SEC).

Финансирование – отрасль сама платит взносы. Это позволит нанимать лучших мировых ИИ-экспертов по рыночным зарплатам.

Независимое руководство – в совет директоров войдут лауреаты премии Тьюринга, ученые и представители open-source сообщества.

Проверка за 30 дней до релиза – разработчики будут обязаны предоставлять конфиденциальный доступ к «фронтирным» моделям до их выхода на рынок.

Право вето – орган сможет рекомендовать правительству замедлить или заблокировать запуск модели в случае критических угроз.

На что именно будут тестировать?

Хассабис предлагает проверять продвинутые нейросети по четырем главным направлениям:

Биоугрозы – способность модели помогать в создании опасных биологических веществ.

Кибербезопасность – поиск критических уязвимостей и автономное проведение хакерских атак.

Склонность к обману – умение агентурного ИИ имитировать поведение или намеренно обходить встроенные фильтры безопасности.

Маркировка контента – обязательное наличие и стойкость «цифровых водяных знаков» на сгенерированных медиафайлах.

Идея звучит логично, тем более, что нечто подобное в той или иной форме озвучивали и многие политики, и общественные деятели, и разработчики ИИ. Однако эксперты уже выделили плюсы и минусы подхода Хассабиса.

Плюсы:

На деньги техногигантов можно закупать огромные вычислительные мощности для тестов.

Обеспечивается регуляторная гибкость – стандарты и бенчмарки будут обновляться ежеквартально, в отличие от законов.

Конец хаотичным проверкам – постоянный прозрачный регламент вместо хаотичных запретов регуляторов.

Минусы:

Геополитический раскол – инициатива рассчитана на лидерство США, что игнорирует лаборатории в Китае, ОАЭ или ЕС.

Удар по «низовой» конкуренции – небольшие стартапы и мелкие разработчики и open-source проекты могут пострадать от установленных бюрократических рамок.

«Захват регулятора» – лобби крупных ИИ-лабораторий могут адаптировать правила «под себя».

Предложение Хассабиса вызваны еще и тем, что администрация Трампа активно разрабатывает правила регулирования ИИ, иногда хаотично и чаще импульсивно, «на ходу» (и не всегда оправданно, что в общем-то характерно для всей политики в отношении ИИ в США).

Это не единственное предложение о создании координационной группы и формировании какой-никакой регуляторной базы. Так чуть ранее Илон Маск озвучил идею о том, чтобы ведущие разработчики ИИ встречались каждые несколько недель для обсуждения и обмена мнениями по вопросам безопасности и защищенности этой технологии. И это высказывание устно было поддержано OpenAI (несмотря на серьезные разногласия).

Еще один призыв прозвучал 13 июля 2026 г. – более 200 ведущих экономистов, ИИ-исследователей и топ-менеджеров (включая 16 Нобелевских лауреатов, руководителей из OpenAI, Anthropic и Google) опубликовали открытое письмо под коротким, но тревожным заголовком «Мы должны действовать сейчас» (We Must Act Now).

Авторы письма предупреждают:

Масштаб угрозы – ИИ спровоцирует тектонический сдвиг в экономике, который будет масштабнее Промышленной революции, но произойдет в разы быстрее.

Главный риск – массовая потеря рабочих мест из-за автоматизации интеллектуального труда.

Призыв к действию – правительствам необходимо немедленно создавать институты регулирования и «защитные барьеры» (guardrails), чтобы ИИ помогал людям, а не вытеснял их.

См.: Nearly 200 Economists and Tech Leaders Warn of A.I. Threats / https://www.nytimes.com/2026/07/13/business/economists-ai-threat-jobs.html

Пока все формулируют предложения о регулировании, есть угроза, что ИИ сам создаст правила под себя. И причем очень быстро. А плюсы и минусы мы узнаем, когда уже все будет сформировано и, наверно, при минимальном участии человека.

Телеграм: t.me/ainewsline

Источник: www.nytimes.com

Комментарии: