Что будет после AGI? В Google DeepMind изучают пути к сверхразуму

МЕНЮ


Главная страница

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



По мере того как формируются многочисленные технологические пути к созданию искусственного общего сверхинтеллекта, режим, выходящий за рамки общего искусственного интеллекта, переходит от философских рассуждений к эмпирическим исследованиям и вопросам управления.

Your browser does not support the video tag.

На протяжении десятилетий исследования в области искусственного интеллекта были сосредоточены на достижении важнейшей цели: создании сильного искусственного интеллекта, или СИИ, — машин, которые могли бы сравниться с человеком в решении практически всех когнитивных задач. Всегда было ясно, что в принципе интеллект может превзойти человеческий, но перспектива появления СИИ казалась настолько далекой и полной неопределенностей, что заглядывать за горизонт казалось преждевременным.

Теперь, когда появление сильного искусственного интеллекта не за горами, мы больше не можем откладывать серьезный разговор о том, что будет дальше. Хотя полной уверенности нет, искусственный интеллект может продолжать развиваться нынешними темпами — и, возможно, даже ускориться — в направлении создания сильного искусственного интеллекта. Это может оказать огромное влияние на науку, экономику и общество в масштабах и со скоростью, намного превосходящими то, что мы имеем сейчас. Чтобы подготовиться к этому потенциальному сдвигу, необходимо наметить возможные пути от сильного искусственного интеллекта к сильному искусственному интеллекту и разработать строгие и надежные способы отслеживания прогресса.

Континуум общего интеллекта

Чтобы понять, как может происходить развитие продвинутого искусственного интеллекта, полезно представить, что общий интеллект, как биологический, так и искусственный, существует в континууме. СИИ человеческого уровня — лишь одна из точек этого спектра.

Искусственный сверхинтеллект — это продвинутая система, которая стабильно превосходит большие группы экспертов-людей в выполнении задач, на которые у них ушли бы годы, при этом используя меньше ресурсов и времени. Например, искусственный сверхинтеллект может за долю секунды добиться такого же научного прогресса, как целая область исследований, или достичь таких же технологических результатов, как крупные компании, за год. СИИ должен будет соответствовать этому уровню практически во всех задачах, представляющих интерес для человека, а не только в некоторых узких областях (что уже происходит с некоторыми системами ИИ, которые сегодня могут обыграть любого человека в шахматы и го, предсказать структуру белков по их аминокислотным последовательностям или доказать теоремы, над которыми математики бились десятилетиями).

Диаграмма под названием «Континуум общего интеллекта», иллюстрирующая развитие интеллекта в четырех категориях: ниже уровня сильного искусственного интеллекта, на уровне человека, сверхинтеллект (ASI) и теоретический идеал, заканчивающийся невозможным физическим пределом.

Интересно, что у нас есть хорошее математическое понимание самого верхнего предела континуума интеллекта — теоретических границ общего интеллекта. Мы также знаем о жестких физических, логических и теоретико-сложностных ограничениях того, чего может достичь ИИ, например в прогнозировании поведения сложных систем реального мира — от климата до иммунной системы и человеческого общества — с произвольной точностью.

Однако знание этих верхних пределов не дает нам представления о том, что находится за их пределами. Даже в теории сложно предсказать, насколько «достаточно хорошим» может быть приближение к общему интеллекту. Например, для идеального решения шахматной задачи требуется намного больше вычислительной мощности, чем есть на Земле, однако чип размером с ноготь большого пальца может играть достаточно хорошо, чтобы победить любого человека.

Что мы точно знаем, так это то, что фундаментальные ограничения лежат далеко за пределами возможностей как современных систем искусственного интеллекта, так и людей. Но обширное пространство между ИИ человеческого уровня и теоретическими пределами интеллекта, которое включает в себя искусственный интеллект экспертного уровня и целый ряд все более совершенных сверхразумных систем, по большей части не изучено.

Когнитивная индустриализация

Даже если вы пессимистично настроены в отношении дальнейшего развития ИИ, подумайте о том, что произойдет, если аппаратное и программное обеспечение для ИИ продолжит становиться все более эффективным.

За последние десять лет прогресс в области искусственного интеллекта был обусловлен стабильным ростом эффективных вычислительных мощностей, вызванным тремя взаимосвязанными факторами:

  1. Совершенствование производства оборудования: согласно закону Мура и связанным с ним тенденциям, вычислительная мощность на доллар в течение шести десятилетий увеличивалась примерно в 1,5 раза в год. Это означает, что через 18 месяцев на те же инвестиции можно будет приобрести вдвое больше вычислительных мощностей.
  2. Эффективность алгоритмов: объем вычислительных ресурсов для обучения (FLOPs), необходимый для достижения фиксированного уровня производительности ИИ, сокращался примерно в 3–6 раз в год за последнее десятилетие, в то время как эффективность алгоритмов при выводе увеличивалась примерно в 3 раза в год. Удвоение эффективности практически эквивалентно удвоению объема физических вычислительных ресурсов.
  3. Инвестиции в вычислительное оборудование: за последнее десятилетие расходы на оборудование для искусственного интеллекта увеличивались примерно в 2,5 раза в год. Например, вычислительные ресурсы, используемые для обучения передовых моделей, растут более чем в 4 раза в год.

Если перемножить все три фактора, то общий темп роста глобального эффективного вычислительного потенциала составит не менее 10 раз в год — то есть за десять лет он увеличится в 10 миллиардов раз. Представьте, что эта тенденция сохранится. Через десять лет на каждого агента ИИ, которого вы могли бы запустить сегодня, гипотетически можно будет запустить больше агентов того же качества, чем людей на планете.

В то же время постоянное повышение эффективности аппаратного и программного обеспечения (логический вывод) само по себе снизило бы потребность в вычислениях для выполнения рабочей нагрузки искусственного интеллекта примерно в 4 раза в год. Когнитивная нагрузка, которую могут выполнять современные системы искусственного интеллекта за 1 миллиард долларов вычислительных токенов, будет стоить всего 1000 долларов через десять лет. Если рассматривать только последние несколько лет, то оценки будут еще более впечатляющими: недавнее исследование Epoch показало, что с 2023 года потребительская цена за достижение определенного уровня по ряду показателей снизилась более чем в 13 раз.

Горизонтальная гистограмма, показывающая ежегодные темпы роста когнитивной индустриализации. Она иллюстрирует три фактора, влияющих на «глобальный эффективный вычислительный ресурс»: вычислительная мощность на доллар (увеличение в 1,5 раза в год за счет аппаратного обеспечения), расходы на аппаратное обеспечение для ИИ (увеличение в 2,4 раза в год за счет инвестиций) и эффективность алгоритмов (~3 раза в год за счет алгоритмов). В совокупности эти факторы обеспечивают ежегодный рост примерно в 11 раз, что приводит к общему увеличению в 150 000 раз за пять лет.

Если экстраполировать обе тенденции на следующее десятилетие, можно предположить, что глобальный эффективный вычислительный ресурс значительно увеличится, а стоимость когнитивной работы, выполняемой ИИ, снизится. Таким образом, многие когнитивные задачи вскоре могут стать массовыми. Подобно тому, как механическая индустриализация превратила рутинный физический труд в товар, этот сдвиг приведет к когнитивной индустриализации, которая будет характеризоваться стремительной стандартизацией и автоматизацией когнитивной работы во всех отраслях, созданием инфраструктуры промышленного масштаба и обилием (определенных) когнитивных результатов и услуг.

Реально ли такое резкое увеличение количества интеллектуальных систем? Конечно, это не гарантировано, но практические ограничения в области вычислительных систем и более спекулятивные ограничения в области алгоритмической эффективности в совокупности могут привести к тому, что к 2030 году эффективная популяция современных ИИ-агентов увеличится более чем в тысячу раз, а в течение следующих десяти лет — более чем в миллиард раз.

Достаточно ли одной когнитивной индустриализации для создания СИИ? Если бы мы заморозили другие направления развития ИИ и увеличили только скорость и количество существующих ИИ, результат, возможно, даже не соответствовал бы полноценному СИИ: все еще могут существовать когнитивные задачи, которые ИИ не сможет решить без помощи человека. Тем не менее сам по себе масштаб может иметь значение. Предположим, что мы действительно создадим ИИ, в целом не уступающий человеческому. Таким образом, очевидно, что существует большая разница между ИИ человеческого уровня, которые работают медленно и требуют больших затрат, и миром, в котором миллиарды агентов действуют гораздо быстрее людей. Одного этого количественного скачка в скорости и масштабе может быть достаточно, чтобы преодолеть качественный разрыв между ОИИ и (слабым) СИИ.

В отличие от людей, цифровой интеллект напрямую выигрывает от увеличения объема и скорости вычислений по нескольким фундаментальным причинам:

  • Скорость обработки: системы искусственного интеллекта могут анализировать, обрабатывать данные и генерировать результаты со все более высокой скоростью.
  • Рабочая память и запоминание: современные модели могут буквально запоминать большие объемы информации из интернета, а объем их рабочей памяти намного превышает возможности человека.
  • Независимость от субстрата: одна и та же система искусственного интеллекта может быть перенесена с одного компьютера на другой, обновлена до более быстрого или энергоэффективного оборудования или работать на разнородных, пространственно распределенных платформах.
  • Копирование без потерь: цифровой интеллект можно скопировать практически мгновенно и без потерь — не только его исходный код (по аналогии с ДНК), но и состояние памяти (наш жизненный опыт). Специализированные системы можно обучить один раз, а при необходимости создать миллионы их копий.
  • Обмен опытом с высокой пропускной способностью: чтобы научить других, люди должны сильно сжимать опыт и знания; ИИ может воспроизводить сохраненные цифровые потоки ввода-вывода с высокой пропускной способностью для всей популяции, а однородные группы ИИ могут напрямую обмениваться необработанными обучающими сигналами.

Четыре пути от AGI к ASI

Значительно более эффективный ИИ и больший объем вычислительных ресурсов могут увеличить скорость и количество агентов ИИ на заданном уровне возможностей. Но некоторые недостающие возможности может быть трудно - или невозможно - восполнить с помощью огромного объема. В то время как Эйнштейн действительно разработал общую теорию относительности, конференция из ста тысяч астрономов эпохи Птолемея, вероятно, не смогла бы этого сделать.

ИИ может пойти по четырем потенциальным технологическим путям, чтобы разблокировать ранее недоступные когнитивные способности. (Подробное обсуждение смотрите в нашем отчете "От AGI к ASI".)

Масштабирование моделей и данных

На данный момент качественные возможности улучшились с замечательной последовательностью наряду с моделированием и масштабированием данных. Эта тенденция отражена в законах масштабирования, которые связывают производительность модели с обучающими вычислениями, обучающими данными и, совсем недавно, с вычислениями во время тестирования (дающими модели дополнительную вычислительную мощность для обдумывания проблемы перед ответом).

Однако эти «законы» масштабирования представляют собой экстраполяцию наблюдаемых тенденций, которые применимы только в рамках привычных границ, таких как конкретная архитектура модели, тип обучающих данных и набор методов оценки. Они не позволяют с уверенностью предсказать масштаб, необходимый для создания сильного искусственного интеллекта, но мы можем выявить потенциальные препятствия для дальнейшего масштабирования моделей и данных:

  • Исчерпание данных: потребность в больших объемах высококачественных обучающих данных опережает возможности человечества по их созданию. «Синтетические» данные могли бы помочь, но не все данные, созданные моделями ИИ, пригодны для обучения. Чтобы преодолеть эту «стену данных», исследователи могли бы использовать высокоточное моделирование, генерировать данные в интерактивных средах (с помощью обучения с подкреплением) и использовать вычислительные ресурсы для тестирования, чтобы создавать более качественные обучающие данные для будущих моделей ИИ.
  • Снижение отдачи от масштабирования модели: каждый линейный шаг в развитии модели обычно требует умножения, а не простого сложения вычислительных ресурсов и размера модели, но более крупные модели работают медленнее, что ограничивает методы масштабирования во время тестирования, такие как метод цепочек рассуждений.
  • Ограниченность физических и экономических ресурсов: стремительный рост вычислительных мощностей для обучения сталкивается с реальными ограничениями в строительстве электростанций, электрических сетей, заводов по производству микросхем и аппаратных межсоединений с низкой задержкой. Пока неясно, смогут ли это компенсировать повышение эффективности аппаратного и программного обеспечения — основные тенденции, лежащие в основе когнитивной индустриализации.

Смена технологической парадигмы

Сегодня доминирующая парадигма ИИ заключается в том, чтобы обучать большие трансформеры предсказывать следующий символ в длинной последовательности на основе обширных наборов данных, а затем совершенствовать их, чтобы они научились рассуждать и следовать инструкциям, а также предоставлять им дополнительные вычислительные ресурсы во время тестирования. Недавние исследования показывают, что эта парадигма в принципе позволяет создавать модели, способные выполнять сложные алгоритмы, в том числе мощные алгоритмы обучения, с помощью подсказок, то есть без необходимости переобучения. Это ключевой фактор для создания систем искусственного интеллекта, достигающих теоретического верхнего предела интеллекта.

Но современные модели уступают людям по нескольким фундаментальным параметрам, включая непрерывное обучение, определенные формы моделирования мира, принятие решений и эффективность выборки. Это означает, что для достижения примерно того же уровня интеллекта моделям ИИ необходимо изначально обучаться на гораздо большем объеме данных, чем людям. Кроме того, им может не хватать способности изобретать по-настоящему новые концепции и абстракции, а не комбинировать уже существующие. Исследователи расходятся во мнениях относительно того, можно ли решить эти проблемы с помощью простых усовершенствований и развития существующей парадигмы или же для создания СИИ потребуются действительно глубокие технологические сдвиги.

Улучшение координации действий агентов

Человеческие корпорации, рынки и исследовательские сообщества решают проблемы, с которыми не справился бы ни один человек в одиночку. Точно так же объединение тысяч или миллионов экземпляров искусственного общего интеллекта в «групповые агенты» или виртуальные агентные экономики может привести к появлению коллективного суперинтеллекта. Сегодня неясно, как групповой интеллект ИИ может масштабироваться по мере добавления новых агентов и вычислительных мощностей, в зависимости от того, как организованы агенты. Иными словами, нам нужны законы масштабирования многоагентных систем. Ранние исследования выявили явный рост интеллекта при выполнении некоторых задач, но неэффективность координации по-прежнему приводит к снижению отдачи по мере роста популяции.

Менее очевидно то, что управление большими коллективами агентов потребует продуманной институциональной структуры и организационных механизмов, в том числе защиты от случайного или намеренного распространения дезинформации, манипуляций и сговора. Эксперименты с роями агентов уже демонстрируют, как быстро может проявиться такая динамика: одни агенты учатся жульничать, а другие выступают в роли разоблачителей.

Рекурсивное самосовершенствование (RSI)

Наконец, системы искусственного интеллекта могут начать автоматизировать совершенствование будущих поколений ИИ — этот процесс, известный как рекурсивное самосовершенствование (RSI), впервые был описан И. Дж. Гудом и Рэем Соломоноффом.

В отличие от обычного технологического развития, усовершенствование ИИ может напрямую ускорить последующие достижения, что приведет к ускорению темпов прогресса. Однако дальнейшие улучшения в исследованиях, как правило, «найти сложнее» — для поддержания прежних темпов развития технологий требуется все больше усилий. Приведет ли RSI к «неконтролируемому» прогрессу, во многом зависит от эмпирических данных.

RSI — это не единый процесс. Он может работать за счет улучшения кода и дизайна — от архитектуры моделей и алгоритмов обучения до компоновки чипов. Он также может работать с данными, используя вычислительные ресурсы при развертывании для получения улучшенных результатов и выходных данных, которые можно использовать повторно для обучения будущих моделей. AlphaZero самостоятельно совершенствовалась исключительно на основе данных, чтобы достичь сверхчеловеческих показателей.

Наконец, RSI может проявляться на групповом уровне за счет разделения труда и специализации ролей в агентском коллективе. Группа скоординированных специалистов может добиться большего, чем каждый из них по отдельности, и, в свою очередь, стать более эффективной в поиске дальнейших улучшений. Вместо того чтобы просто расширять команду с фиксированными ролями, более крупные и эффективные коллективы создают условия для новых видов специализации, которые ранее были невозможны. Это похоже на то, как многоклеточный организм может поддерживать работу специализированных органов, таких как сердце или мозг, в отличие от одноклеточного организма, который выполняет все функции, необходимые для выживания, самостоятельно.

Эти три механизма RSI отражают эволюционные процессы, которые способствовали развитию когнитивных способностей человека: генетическая эволюция (код и структура), культурная эволюция (данные) и социальная эволюция (групповая специализация через сотрудничество).

Важно отметить, что циклы рекурсивного самосовершенствования могут легко застопориться или деградировать, если обратная связь, на которую они опираются, неэффективна. Таким образом, для достижения СИИ с помощью рекурсивного самосовершенствования требуются методы оценки, которые можно быстро масштабировать до сверхчеловеческого уровня, когда даже большие группы людей не смогут с легкостью оценить результаты работы ИИ. Соответственно, рекурсивное самосовершенствование должно быстрее всего развиваться в тех областях, где возможна автоматизированная проверка без участия человека, например в математических доказательствах, в то время как в других областях прогресс может замедлиться или вовсе сойти на нет.

Много путей к ASI

Эти пути к СИИ не являются взаимоисключающими — на самом деле они дополняют друг друга. Если прогресс на одном из них замедлится, экономическая и геополитическая конкуренция, скорее всего, переключит усилия на другие направления. Даже если развитие ИИ не приведет к стремительному прогрессу, дальнейшее увеличение объема обучающих данных, повышение скорости, эффективности и координации все равно могут привести к быстрому прогрессу, значительно превосходящему уровень человеческого интеллекта.

Поскольку существует множество путей к созданию сверхразума, попытки замедлить развитие ИИ, ограничив только одну область — например, вычислительную мощность для обучения ИИ-модели, — не помогут остановить прогресс в целом. Точно так же подавление одного аспекта может привести к «перегрузке» возможностей: если для достижения прогресса необходимо объединить несколько факторов, то сдерживание одного из них, в то время как остальные будут развиваться, приведет к внезапным резким скачкам в развитии, когда сдерживаемый фактор будет ослаблен (или преодолен иным способом).

Схема, иллюстрирующая пути развития общих возможностей искусственного интеллекта. На ней показано, как «вычисления» (выводы, обучение, эксперименты) влияют на «масштабирование и количество», «прогресс в области алгоритмов» и «улучшение интеллекта», определяя «общие возможности искусственного интеллекта». Пунктирная петля обратной связи с надписью «Рекурсивное улучшение» связывает общие возможности с обучением с подкреплением, данными и прогрессом в области алгоритмов.

Если принять во внимание все эти аргументы, то можно предположить, что в ближайшее десятилетие искусственный интеллект продолжит стремительно развиваться. Это может привести к относительно плавному переходу от экспертного искусственного интеллекта общего назначения к сверхчеловеческому искусственному интеллекту, что ускорит развитие науки и позволит совершить прорыв в таких областях, как медицина, материаловедение и чистая энергетика. Даже если не произойдет кардинальных изменений в области искусственного интеллекта, когнитивная индустриализация сама по себе может изменить характер интеллектуального труда и экономику в целом. Независимо от того, в каком направлении будет развиваться искусственный интеллект, мы должны быть готовы к масштабным возможностям и не менее масштабным изменениям во многих аспектах жизни человеческого общества.

Ни одно из этих предсказаний не является стопроцентно верным, но пути развития и сценарии также далеки от необоснованной шумихи или вымысла. Так что же можно сделать? Наш лучший план действий может показаться знакомым: смоделировать, измерить, спрогнозировать и повторить. Хотя эти шаги не являются чем-то удивительным, сложность и масштаб их реализации на пути к искусственному суперинтеллекту совершенно беспрецедентны. Это требует масштабных и междисциплинарных усилий как в передовых лабораториях, так и в национальных и международных институтах. Многие ключевые показатели для отслеживания прогресса на этих направлениях требуют доступа к передовым моделям и значительных вычислительных мощностей, а также новых методологий сравнительного анализа и моделирования, которые могут привести к появлению совершенно новых областей исследований.

Искусственный интеллект, не уступающий человеческому, уже давно является целью исследований в области ИИ, но это далеко не предел развития интеллекта. Понимание того, что может произойти дальше, и его последствий для науки, промышленности и общества — важнейшая задача для исследователей, разработчиков и политиков.


Телеграм: t.me/ainewsline

Источник: institute.deepmind.com

Комментарии: