Сэм Альтман: Нежная Сингулярность

Мы преодолели горизонт событий; начался взлёт. Человечество близко к созданию цифрового сверхразума, и, по крайней мере, пока это не так странно, как должно быть.

Роботы ещё не ходят по улицам, и большинство из нас не разговаривает с искусственным интеллектом целыми днями. Люди всё ещё умирают от болезней, мы всё ещё не можем легко отправиться в космос, и во Вселенной есть много такого, чего мы не понимаем.

И всё же недавно мы создали системы, которые во многих отношениях умнее людей и способны значительно повысить эффективность работы людей, использующих их. Наименее вероятная часть работы уже позади; научные открытия, которые привели нас к созданию таких систем, как GPT-4 и o3, дались нам нелегко, но они приведут нас очень далеко.

ИИ внесёт свой вклад в развитие мира во многих аспектах, но качество жизни улучшится благодаря тому, что ИИ будет способствовать ускорению научного прогресса и повышению производительности. Будущее может быть намного лучше настоящего. Научный прогресс — главный движущий фактор общего прогресса. Очень интересно думать о том, чего мы могли бы достичь.

В каком-то смысле ChatGPT уже сейчас мощнее любого человека, который когда-либо жил на Земле. Сотни миллионов людей ежедневно полагаются на него при выполнении всё более важных задач; небольшая новая функция может оказать огромное положительное влияние; небольшое несоответствие, умноженное на сотни миллионов людей, может привести к серьёзным негативным последствиям.

В 2025 году появились агенты, способные выполнять реальную когнитивную работу; написание компьютерного кода уже никогда не будет прежним. В 2026 году, вероятно, появятся системы, способные генерировать новые идеи. В 2027 году могут появиться роботы, способные выполнять задачи в реальном мире.

Гораздо больше людей смогут создавать программное обеспечение и произведения искусства. Но мир хочет видеть гораздо больше и того, и другого, и эксперты, вероятно, по-прежнему будут намного лучше справляться с этой задачей, чем новички, при условии, что они освоят новые инструменты. В целом, способность одного человека сделать в 2030 году гораздо больше, чем в 2020-м, станет поразительным изменением, и многие люди поймут, как извлечь из этого выгоду.

В самых важных аспектах 2030-е годы могут не сильно отличаться от предыдущих. Люди по-прежнему будут любить свои семьи, проявлять творческие способности, играть в игры и купаться в озёрах.

Но в некоторых очень важных аспектах 2030-е годы, скорее всего, будут сильно отличаться от всего, что было раньше. Мы не знаем, насколько далеко мы можем продвинуться в развитии интеллекта, но скоро узнаем.

В 2030-х годах интеллект и энергия — идеи и способность воплощать идеи в жизнь — станут невероятно востребованными. Эти два фактора долгое время были фундаментальными ограничителями человеческого прогресса; при наличии достаточного количества интеллекта и энергии (и хорошего управления) мы теоретически можем получить всё, что угодно.

Мы уже живём в мире невероятного цифрового интеллекта, и после первоначального шока большинство из нас к нему привыкло. Очень быстро мы переходим от восхищения тем, что ИИ может сгенерировать красиво написанный абзац, к вопросу о том, когда он сможет сгенерировать красиво написанный роман; от восхищения тем, что он может ставить жизненно важные медицинские диагнозы, к вопросу о том, когда он сможет разрабатывать лекарства; от восхищения тем, что он может создать небольшую компьютерную программу, к вопросу о том, когда он сможет создать целую новую компанию. Вот как происходит сингулярность: чудеса становятся привычными, а затем превращаются в обыденность.

Мы уже слышим от учёных, что они стали в два или три раза продуктивнее, чем до появления ИИ. Продвинутый ИИ интересен по многим причинам, но, пожалуй, ничто не может сравниться с тем фактом, что мы можем использовать его для более быстрого проведения исследований в области ИИ. Возможно, мы сможем открыть новые вычислительные платформы, более совершенные алгоритмы и кто знает, что ещё. Если мы сможем провести исследования, рассчитанные на десять лет, за год или за месяц, то темпы прогресса, очевидно, будут совсем другими.

С этого момента инструменты, которые мы уже создали, будут помогать нам в дальнейших научных исследованиях и в создании более совершенных систем ИИ. Конечно, это не то же самое, что система ИИ, которая полностью автономно обновляет свой собственный код, но, тем не менее, это упрощенная версия рекурсивного самосовершенствования.

В игру вступают и другие самоусиливающиеся циклы. Создание экономической ценности запустило маховик наращивания инфраструктуры для работы этих всё более мощных систем ИИ. И роботы, которые могут создавать других роботов (и в некотором смысле центры обработки данных, которые могут создавать другие центры обработки данных), уже не так далеки.

Если нам придётся создавать первый миллион человекоподобных роботов по старинке, но затем они смогут управлять всей цепочкой поставок — добывать и перерабатывать полезные ископаемые, водить грузовики, управлять заводами и т. д. — чтобы создавать больше роботов, которые смогут строить больше заводов по производству микросхем, центров обработки данных и т. д., то темпы прогресса, очевидно, будут совсем другими.

По мере автоматизации производства в центрах обработки данных стоимость интеллектуальных технологий в конечном итоге должна приблизиться к стоимости электроэнергии. (Людям часто интересно, сколько энергии потребляет запрос в ChatGPT; средний запрос потребляет около 0,34 ватт-часа, примерно столько же, сколько потребляет духовка за чуть более чем одну секунду или высокоэффективная лампочка за пару минут. Он также потребляет около 0,000085 галлона воды, примерно одну пятнадцатую чайной ложки.)

Темпы технологического прогресса будут продолжать ускоряться, и люди по-прежнему будут способны адаптироваться практически к чему угодно. Будут и очень сложные моменты, например, исчезновение целых профессий, но, с другой стороны, мир будет становиться богаче так быстро, что мы сможем всерьёз рассматривать новые политические идеи, которые раньше были нам недоступны. Мы, вероятно, не примем новый общественный договор сразу, но, оглядываясь назад через несколько десятилетий, мы увидим, что постепенные изменения привели к чему-то большому.

Если судить по истории, мы будем придумывать новые занятия и новые желания, а также быстро осваивать новые инструменты (смена работы после промышленной революции — хороший недавний пример). Ожидания будут расти, но возможности будут расти так же быстро, и мы все будем получать всё более качественные вещи. Мы будем создавать всё более удивительные вещи для друг друга. У людей есть важное и любопытное долгосрочное преимущество перед ИИ: мы устроены так, что заботимся о других людях и о том, что они думают и делают, но не очень заботимся о машинах.

Фермер-единоличник, живший тысячу лет назад, посмотрел бы на то, чем многие из нас занимаются, и сказал бы, что у нас ненастоящая работа, и подумал бы, что мы просто играем, чтобы развлечься, ведь у нас в избытке еды и невообразимых предметов роскоши. Я надеюсь, что через тысячу лет мы будем смотреть на свою работу и думать, что она ненастоящая, и я не сомневаюсь, что она будет казаться невероятно важной и приносящей удовлетворение тем, кто её выполняет.

Скорость, с которой будут создаваться новые чудеса, будет огромной. Сегодня трудно даже представить, что мы откроем к 2035 году. Может быть, через год мы решим проблему физики высоких энергий, а в следующем году начнём колонизацию космоса. Или через год совершим прорыв в материаловедении, а в следующем году создадим настоящий высокоскоростной интерфейс «мозг — компьютер». Многие люди будут жить примерно так же, но по крайней мере некоторые, вероятно, решат «подключиться».

Если смотреть в будущее, то в это трудно поверить. Но, вероятно, когда мы это переживём, это будет впечатляюще, но управляемо. С точки зрения релятивизма, сингулярность наступает постепенно, и слияние происходит медленно. Мы поднимаемся по длинной дуге экспоненциального технологического прогресса; она всегда выглядит вертикальной, если смотреть вперёд, и плоской, если смотреть назад, но это одна плавная кривая. (Вспомните 2020 год и то, как бы это звучало, если бы к 2025 году появилось что-то близкое к AGI, по сравнению с тем, какими были последние 5 лет.)

Наряду с огромными преимуществами существуют серьёзные проблемы, с которыми нам предстоит столкнуться. Нам действительно нужно решить вопросы безопасности, как технические, так и социальные, но при этом крайне важно обеспечить широкий доступ к сверхинтеллекту, учитывая экономические последствия. Лучшим решением может быть что-то вроде этого:

Решить проблему согласования — значит гарантировать, что мы заставим системы ИИ учиться и действовать в соответствии с тем, чего мы все вместе действительно хотим в долгосрочной перспективе (примером несогласованного ИИ являются ленты новостей в социальных сетях; алгоритмы, которые их обслуживают, невероятно хорошо заставляют вас продолжать прокручивать ленту и чётко понимают ваши краткосрочные предпочтения, но делают это, используя что-то в вашем мозге, что перевешивает ваши долгосрочные предпочтения).

Затем сосредоточьтесь на том, чтобы сделать суперразум дешёвым, широкодоступным и не слишком сосредоточенным в руках одного человека, компании или страны. Общество устойчиво, креативно и быстро адаптируется. Если мы сможем использовать коллективную волю и мудрость людей, то, хотя мы будем совершать множество ошибок и кое-что будет идти совсем не так, как надо, мы будем быстро учиться и адаптироваться и сможем использовать эту технологию с максимальной выгодой и минимальным ущербом. Предоставление пользователям большой свободы в рамках широких границ, которые должно установить общество, кажется очень важным. Чем раньше мир начнёт обсуждать, что представляют собой эти широкие границы и как мы определяем коллективное согласие, тем лучше.

Мы (вся индустрия, а не только OpenAI) создаём мозг для всего мира. Он будет максимально персонализированным и простым в использовании для всех; мы будем ограничены только хорошими идеями. Долгое время технические специалисты в индустрии стартапов высмеивали «парней с идеями» — людей, у которых была идея и которые искали команду для её реализации. Теперь мне кажется, что у них вот-вот наступит звёздный час.

Сейчас OpenAI занимается многими вещами, но прежде всего мы — исследовательская компания в области сверхинтеллекта. Перед нами стоит много задач, но большая часть пути уже освещена, и тёмные участки быстро отступают. Мы невероятно благодарны за возможность заниматься тем, чем мы занимаемся.

Интеллект, который слишком дешев, чтобы его измерять, вполне достижим. Это может показаться безумным, но если бы мы сказали вам в 2020 году, что окажемся там, где находимся сегодня, это, вероятно, прозвучало бы более безумно, чем наши нынешние прогнозы на 2030 год.

Пусть наше развитие будет плавным, экспоненциальным и беспроблемным благодаря сверхразуму.

Источник: vk.com

Комментарии: