Нежная Сингулярность

Мы преодолели горизонт событий; взлёт начался. Человечество близко к созданию цифрового сверхразума, и, по крайней мере, пока что это не так странно, как могло бы показаться.

Роботы ещё не ходят по улицам, и большинство из нас не разговаривает с искусственным интеллектом целыми днями. Люди по-прежнему умирают от болезней, мы по-прежнему не можем легко отправиться в космос, и мы многого не знаем о Вселенной.

И всё же недавно мы создали системы, которые во многих отношениях умнее людей и способны значительно повысить эффективность работы людей, которые их используют. Самое сложное уже позади: научные открытия, которые привели нас к созданию таких систем, как GPT-4 и o3, дались нам нелегко, но они приведут нас к большим успехам.

ИИ внесёт свой вклад в развитие мира во многих аспектах, но повышение качества жизни за счёт ИИ, ускоряющего научный прогресс и повышающего производительность, будет колоссальным. Будущее может быть намного лучше настоящего. Научный прогресс — важнейший фактор общего прогресса. Очень интересно подумать о том, чего мы могли бы достичь.

В каком-то смысле ChatGPT уже превосходит по мощности любого человека, который когда-либо жил на Земле. Сотни миллионов людей ежедневно полагаются на него при выполнении всё более важных задач; небольшая новая функция может оказать огромное положительное влияние; небольшое несоответствие, умноженное на сотни миллионов людей, может привести к серьёзным негативным последствиям.

В 2025 году появились агенты, способные выполнять реальную когнитивную работу. Написание компьютерного кода уже никогда не будет прежним. В 2026 году, скорее всего, появятся системы, способные генерировать новые идеи. В 2027 году могут появиться роботы, способные выполнять задачи в реальном мире.

Гораздо больше людей смогут создавать программное обеспечение и произведения искусства. Но миру нужно гораздо больше и того, и другого, и эксперты, вероятно, по-прежнему будут намного лучше разбираться в этом, чем новички, при условии, что они освоят новые инструменты. В целом, возможность для одного человека сделать в 2030 году гораздо больше, чем в 2020-м, станет поразительным изменением, и многие люди поймут, как извлечь из этого выгоду.

В самых важных аспектах 2030-е годы могут не сильно отличаться от наших. Люди по-прежнему будут любить свои семьи, проявлять творческие способности, играть в игры и купаться в озёрах.

Но в некоторых очень важных аспектах 2030-е годы, скорее всего, будут сильно отличаться от всех предыдущих периодов. Мы не знаем, насколько далеко мы можем зайти в развитии искусственного интеллекта, но скоро узнаем.

В 2030-х годах интеллект и энергия — идеи и способность воплощать их в жизнь — станут невероятно доступными. Эти два фактора долгое время были основными препятствиями на пути человеческого прогресса. Обладая достаточным интеллектом и энергией (и хорошим управлением), мы теоретически можем получить всё, что угодно.

Мы уже живём в мире невероятного цифрового интеллекта, и после некоторого первоначального шока большинство из нас к нему довольно быстро привыкает. Очень быстро мы переходим от удивления тем, что ИИ может сгенерировать красиво написанный абзац, к размышлениям о том, когда он сможет сгенерировать красиво написанный роман; от удивления тем, что он может ставить жизненно важные медицинские диагнозы, к размышлениям о том, когда он сможет разрабатывать лекарства; от удивления тем, что он может создать небольшую компьютерную программу, к размышлениям о том, когда он сможет создать целую новую компанию. Так происходит сингулярность: чудеса становятся обыденностью, а затем и нормой.

Мы уже слышим от учёных, что они стали в два или три раза продуктивнее, чем до появления ИИ. Продвинутый ИИ интересен по многим причинам, но, пожалуй, самое важное — это то, что мы можем использовать его для ускорения исследований в области ИИ. Возможно, мы сможем открыть новые вычислительные платформы, улучшить алгоритмы и кто знает, что ещё. Если мы сможем провести исследование, на которое ушло бы десять лет, за год или месяц, то темпы прогресса, очевидно, будут совсем другими.

С этого момента уже созданные нами инструменты будут помогать нам в поиске новых научных идей и в создании более совершенных систем искусственного интеллекта. Конечно, это не то же самое, что система искусственного интеллекта, которая полностью автономно обновляет свой код, но, тем не менее, это начальная версия рекурсивного самосовершенствования.

В игру вступают и другие самоподдерживающиеся циклы. Создание экономической ценности запустило маховик наращивания инфраструктуры для работы этих всё более мощных систем искусственного интеллекта. И роботы, которые могут создавать других роботов (и в некотором смысле центры обработки данных, которые могут создавать другие центры обработки данных), уже не за горами.

Если нам придётся создавать первый миллион человекоподобных роботов по старинке, но при этом они смогут управлять всей цепочкой поставок — добывать и перерабатывать полезные ископаемые, управлять грузовиками, работать на заводах и т. д. — чтобы создавать больше роботов, которые смогут строить больше заводов по производству микросхем, центров обработки данных и т. д., то темпы прогресса, очевидно, будут совсем другими.

По мере автоматизации производства в центрах обработки данных стоимость интеллектуальных решений в конечном счёте должна приблизиться к стоимости электроэнергии. (Людей часто интересует, сколько энергии потребляет запрос к ChatGPT. В среднем запрос потребляет около 0,34 ватт-часа — примерно столько же, сколько потребляет духовка за секунду или высокоэффективная лампочка за пару минут. Кроме того, запрос потребляет около 0,000085 галлона воды — примерно одну пятнадцатую чайной ложки.)

Темпы технологического прогресса будут только ускоряться, и люди по-прежнему будут способны адаптироваться практически к чему угодно. Будут и очень сложные моменты, например, исчезновение целых профессий, но, с другой стороны, мир будет так быстро становиться богаче, что мы сможем всерьёз рассматривать новые политические идеи, которые раньше были невозможны. Вероятно, мы не примем новый общественный договор сразу, но, когда мы оглянемся назад через несколько десятилетий, постепенные изменения приведут к чему-то масштабному.

Если судить по истории, мы будем находить новые занятия и новые желания, а также быстро осваивать новые инструменты (смена работы после промышленной революции — хороший пример из недавнего прошлого). Ожидания будут расти, но и возможности будут расти так же быстро, и мы все будем получать всё лучшее. Мы будем создавать всё более удивительные вещи друг для друга. У людей есть важное и любопытное преимущество перед искусственным интеллектом: мы запрограммированы заботиться о других людях, о том, что они думают и делают, а машины нас не особо волнуют.

Фермер, занимавшийся натуральным хозяйством тысячу лет назад, посмотрел бы на то, чем многие из нас занимаются, и сказал бы, что у нас фиктивная работа, и подумал бы, что мы просто играем в игры, чтобы развлечься, ведь у нас вдоволь еды и невообразимых предметов роскоши. Я надеюсь, что через тысячу лет мы будем смотреть на нашу работу и думать, что она очень фиктивная, и я не сомневаюсь, что она будет казаться невероятно важной и приносящей удовлетворение тем, кто её выполняет.

Скорость появления новых чудес будет огромной. Сегодня трудно даже представить, что мы откроем к 2035 году. Возможно, в один год мы перейдём от решения задач физики высоких энергий к началу колонизации космоса, а в другой — от крупного прорыва в материаловедении к созданию интерфейсов «мозг — компьютер» с высокой пропускной способностью. Многие люди предпочтут вести привычный образ жизни, но по крайней мере некоторые, вероятно, решат «подключиться».

Если смотреть в будущее, то кажется, что это трудно представить. Но, вероятно, когда мы это переживём, это будет казаться впечатляющим, но вполне преодолимым. С точки зрения релятивизма, сингулярность возникает постепенно, а слияние происходит медленно. Мы поднимаемся по длинной дуге экспоненциального технологического прогресса; если смотреть вперёд, она кажется вертикальной, а если назад — плоской, но на самом деле это одна плавная кривая. (Вспомните 2020 год и то, как бы звучало заявление о создании чего-то близкого к ОИИ к 2025 году, по сравнению с тем, какими были последние 5 лет.)

Наряду с огромными преимуществами, нам предстоит столкнуться с серьёзными проблемами. Нам действительно нужно решить вопросы безопасности как на техническом, так и на социальном уровне, но при этом критически важно обеспечить широкий доступ к сверхинтеллекту с учётом экономических последствий. Лучшим вариантом развития событий может быть что-то вроде:

Решить проблему согласования, то есть обеспечить надёжную гарантию того, что системы искусственного интеллекта будут обучаться и действовать в соответствии с тем, чего мы все действительно хотим в долгосрочной перспективе (примером несогласованного ИИ являются ленты социальных сетей; алгоритмы, лежащие в их основе, невероятно эффективно заставляют вас продолжать листать и чётко понимают ваши краткосрочные предпочтения, но делают это за счёт того, что используют в вашем мозге нечто, что перевешивает ваши долгосрочные предпочтения).

Затем сосредоточьтесь на том, чтобы сделать суперинтеллект дешёвым, общедоступным и не слишком зависимым от какого-то человека, компании или страны. Общество устойчиво, креативно и быстро адаптируется. Если мы сможем использовать коллективную волю и мудрость людей, то, несмотря на то, что мы будем совершать множество ошибок и кое-что будет идти совсем не так, как надо, мы будем быстро учиться и адаптироваться и сможем использовать эту технологию с максимальной выгодой и минимальными потерями. Очень важно предоставить пользователям большую свободу в рамках, которые должно определить общество. Чем раньше мир начнёт обсуждать эти широкие границы и то, как мы определяем коллективное согласие, тем лучше.

Мы (вся индустрия, а не только OpenAI) создаём мозг для всего мира. Он будет максимально персонализированным и простым в использовании; мы будем ограничены только хорошими идеями. Долгое время технические специалисты в индустрии стартапов высмеивали «идейных ребят» — людей, у которых есть идея и которые ищут команду для её реализации. Теперь мне кажется, что у них скоро наступит звёздный час.

Сейчас OpenAI занимается многими вещами, но в первую очередь мы — исследовательская компания в области сверхразумного интеллекта. Перед нами стоит много задач, но большая часть пути уже освещена, а тёмные участки быстро исчезают. Мы невероятно благодарны за возможность заниматься тем, чем мы занимаемся.

Интеллект, который слишком дешев, чтобы его измерять, вполне достижим. Это может показаться безумием, но если бы мы сказали вам в 2020 году, что окажемся там, где находимся сейчас, это, вероятно, прозвучало бы ещё более безумно, чем наши нынешние прогнозы на 2030 год.

Пусть наше развитие будет плавным, экспоненциальным и беспроблемным благодаря сверхразуму.

Источник: vk.com

Комментарии: