Дарио Амодеи опубликовал необычно откровенное эссе о том, куда движется ИИ

Кратко, с цитатами.

Его новый текст Policy on the AI Exponential читается не как обычная колонка CEO, а как предупреждение от человека, который сам строит эту технологию.

Главная проблема — скорость. ИИ развивается по экспоненте, и Амодеи говорит об этом прямо. Законы же принимаются со скоростью Древоборода из «Властелина колец»: дерева, которому нужен целый день, чтобы просто поздороваться с другим деревом. Пока Конгресс успеет что-то сделать, пишет Амодеи, ИИ может пройти путь от «забавной игрушки» до «целой страны гениев».

Его горизонт очень короткий:

> «Если эти законы масштабирования продолжатся хотя бы ещё год-два, мы, вероятно, получим то, что я называл Powerful AI, или “страну гениев в дата-центре”».

И он считает, что доказательства уже есть. Указывая на киберриски Claude Mythos Preview, Амодеи пишет, что их более широкий смысл в том, что они «вне всяких сомнений доказывают: ИИ-модели уже стали инструментами глобального и национального стратегического значения».

Поэтому он предлагает обязательные правила по аналогии с авиационным регулятором FAA: независимое тестирование frontier-моделей, обязательные проверки третьими сторонами и право государства блокировать или откатывать релиз, если он признан небезопасным. И это говорит человек, чьи собственные модели как раз могут попасть под такие блокировки.

Часть, к которой хочется возвращаться:

В экономике он реально видит обе стороны. Потенциал, который он описывает, огромен:

> «Если ИИ сможет выполнять большинство когнитивных задач намного лучше людей, логично ожидать, что это приведёт к крайне быстрому и устойчивому экономическому росту за счёт ускорения науки, технологий и операционной эффективности. Способность ИИ итеративно создавать ещё более сильный ИИ может дополнительно усилить этот рост».

Но он не пытается закрыть глаза на обратную сторону:

> «Есть вполне реальная вероятность, что, несмотря на все наши усилия, ИИ всё равно вызовет значительную и долгосрочную потерю рабочих мест, и что это может быть внутренним свойством технологии, которая широко воспроизводит человеческое мышление».

Среди возможных мер он доходит до безусловного базового дохода и повышения налогов на прирост капитала.

О власти он предупреждает, что ИИ в плохих руках может стать «ультимативным инструментом автократии». Но затем разворачивает то же недоверие и в сторону собственной индустрии: ИИ «нельзя безопасно полностью доверить ни государствам, ни компаниям». Включая Anthropic.

И он отказывается относиться к общественному страху как к проблеме пиара:

> «Люди тревожатся из-за ИИ, потому что правильно понимают: его риски реальны».

Не помню, когда в последний раз CEO крупной ИИ-компании так явно вставал на сторону обеспокоенной публики, а не собственного маркетингового отдела.

Весь текст написан не в настроении победы, а в настроении срочности. Амодеи считает, что есть узкое окно, когда доказательства, общественная тревога и политическая воля ещё могут совпасть, и что мы уже примерно на год опаздываем.

Финальный образ почти обнадёживающий:

> «Древобород и его лес просыпаются».

Успеют ли они проснуться достаточно быстро.

https://x.com/DarioAmodei/status/2064781775247950326

Телеграм: t.me/ainewsline

Источник: x.com

Комментарии: