Дженсен Хуанг: ограничения открытых моделей вытолкнут инновации из США

Глава NVIDIA Дженсен Хуанг опубликовал свой первый пост в X. В нём он поделился совместным открытым письмом в поддержку моделей с открытыми весами.

Документ подписали 25 организаций, включая NVIDIA, Microsoft, Meta, IBM, Mistral, Hugging Face, Mozilla, The Linux Foundation, Palantir, Perplexity, Replit, ServiceNow, Andreessen Horowitz и Y Combinator. OpenAI, Anthropic, Google и Amazon среди подписантов нет.

Авторы определяют модели с открытыми весами как системы, которые можно скачать, проверить, изменить и запустить на собственной инфраструктуре. По их мнению, такие модели позволяют компаниям и университетам использовать AI без обучения модели с нуля и постоянной оплаты закрытых API.

В письме перечислены четыре основных аргумента:

1. открытые веса снижают стоимость внедрения AI;

2. усиливают конкуренцию между разработчиками моделей, облаками, производителями чипов и приложениями;

3. позволяют хранить данные и запускать модели на собственной инфраструктуре без привязки к одному провайдеру;

4. дают исследователям возможность проверять модели, искать уязвимости, проводить red teaming и разрабатывать защитные механизмы.

Подписанты признают отдельные риски: после публикации веса нельзя отозвать, а изменённые версии моделей сложно отслеживать. При этом они считают, что закрытые модели также могут быть взломаны или использованы во вред, а концентрация AI у нескольких провайдеров создаёт единые точки отказа.

Компании призвали американских законодателей расширять доступ стартапов и исследователей к вычислительным мощностям, финансировать общие датасеты, инструменты и системы оценки, а также не вводить преждевременные ограничения на модели с открытыми весами.

Отдельный пункт касается дистилляции, то есть использования ответов одной модели для обучения или улучшения другой. Авторы называют её стандартным методом разработки и предлагают отделять дистилляцию от незаконного извлечения данных и нарушения коммерческих прав. Для таких нарушений они предлагают применять точечные юридические меры вместо запрета всей технологии.