Проект первого закона о регулировании ИИ заблокирован губернатором Калифорнии

Гэвин Ньюсом наложил вето на ранее принятый в заксобрании Калифорнии закон о предотвращении катастроф, вызванных ИИ. По словам Ньюсома, он не обеспечивает безопасность использования ИИ, а лишь создаёт её видимость.

Никто не хочет повторения «Терминатора», потому законодатели возложили полную ответственность за безопасность на всех разработчиков ИИ, предусмотрев тестирование и оценку рисков, аварийную остановку моделей и многомиллионные штрафы. В процессе законопроект пересмотрели и распространили его только на модели ИИ, использование которых стоит от 100 миллионов долларов, а мощности для обучения составляют не менее 10^26 флопс.

Ньюсому не понравилось, что в такой формулировке закон считает опасными исключительно дорогие и мощные ИИ. Маломощные модели могут оказаться столь же опасными, если они, например, развёрнуты в сферах с более высокими рисками или работают с конфиденциальными данными. При этом губернатор признаёт, что регуляция нужна, но критерии для неё нужно вырабатывать на основе опыта и анализа рисков, а не просто прописывая их в законе, отталкиваясь от субъективных представлений.