Что будет после AGI? В Google DeepMind изучают пути к сверхразуму |
||
|
МЕНЮ Главная страница ТЕМЫ Новости ИИ Голосовой помощник Разработка ИИГородские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Искусственный интеллект Слежка за людьми Угроза ИИ Атаки на ИИ Внедрение ИИИИ теория Компьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Нейронные сети начинающим Психология ИИ Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Промпты. Генеративные запросы Распознавание лиц Распознавание образов Распознавание речи Творчество ИИ Техническое зрение Чат-боты Авторизация |
2026-11-20 11:15 По мере того как формируются многочисленные технологические пути к созданию искусственного общего сверхинтеллекта, режим, выходящий за рамки общего искусственного интеллекта, переходит от философских рассуждений к эмпирическим исследованиям и вопросам управления. Your browser does not support the video tag. На протяжении десятилетий исследования в области искусственного интеллекта были сосредоточены на достижении важнейшей цели: создании сильного искусственного интеллекта, или СИИ, — машин, которые могли бы сравниться с человеком в решении практически всех когнитивных задач. Всегда было ясно, что в принципе интеллект может превзойти человеческий, но перспектива появления СИИ казалась настолько далекой и полной неопределенностей, что заглядывать за горизонт казалось преждевременным. Теперь, когда появление сильного искусственного интеллекта не за горами, мы больше не можем откладывать серьезный разговор о том, что будет дальше. Хотя полной уверенности нет, искусственный интеллект может продолжать развиваться нынешними темпами — и, возможно, даже ускориться — в направлении создания сильного искусственного интеллекта. Это может оказать огромное влияние на науку, экономику и общество в масштабах и со скоростью, намного превосходящими то, что мы имеем сейчас. Чтобы подготовиться к этому потенциальному сдвигу, необходимо наметить возможные пути от сильного искусственного интеллекта к сильному искусственному интеллекту и разработать строгие и надежные способы отслеживания прогресса. Континуум общего интеллекта Чтобы понять, как может происходить развитие продвинутого искусственного интеллекта, полезно представить, что общий интеллект, как биологический, так и искусственный, существует в континууме. СИИ человеческого уровня — лишь одна из точек этого спектра. Искусственный сверхинтеллект — это продвинутая система, которая стабильно превосходит большие группы экспертов-людей в выполнении задач, на которые у них ушли бы годы, при этом используя меньше ресурсов и времени. Например, искусственный сверхинтеллект может за долю секунды добиться такого же научного прогресса, как целая область исследований, или достичь таких же технологических результатов, как крупные компании, за год. СИИ должен будет соответствовать этому уровню практически во всех задачах, представляющих интерес для человека, а не только в некоторых узких областях (что уже происходит с некоторыми системами ИИ, которые сегодня могут обыграть любого человека в шахматы и го, предсказать структуру белков по их аминокислотным последовательностям или доказать теоремы, над которыми математики бились десятилетиями). Интересно, что у нас есть хорошее математическое понимание самого верхнего предела континуума интеллекта — теоретических границ общего интеллекта. Мы также знаем о жестких физических, логических и теоретико-сложностных ограничениях того, чего может достичь ИИ, например в прогнозировании поведения сложных систем реального мира — от климата до иммунной системы и человеческого общества — с произвольной точностью. Однако знание этих верхних пределов не дает нам представления о том, что находится за их пределами. Даже в теории сложно предсказать, насколько «достаточно хорошим» может быть приближение к общему интеллекту. Например, для идеального решения шахматной задачи требуется намного больше вычислительной мощности, чем есть на Земле, однако чип размером с ноготь большого пальца может играть достаточно хорошо, чтобы победить любого человека. Что мы точно знаем, так это то, что фундаментальные ограничения лежат далеко за пределами возможностей как современных систем искусственного интеллекта, так и людей. Но обширное пространство между ИИ человеческого уровня и теоретическими пределами интеллекта, которое включает в себя искусственный интеллект экспертного уровня и целый ряд все более совершенных сверхразумных систем, по большей части не изучено. Когнитивная индустриализация Даже если вы пессимистично настроены в отношении дальнейшего развития ИИ, подумайте о том, что произойдет, если аппаратное и программное обеспечение для ИИ продолжит становиться все более эффективным. За последние десять лет прогресс в области искусственного интеллекта был обусловлен стабильным ростом эффективных вычислительных мощностей, вызванным тремя взаимосвязанными факторами:
Если перемножить все три фактора, то общий темп роста глобального эффективного вычислительного потенциала составит не менее 10 раз в год — то есть за десять лет он увеличится в 10 миллиардов раз. Представьте, что эта тенденция сохранится. Через десять лет на каждого агента ИИ, которого вы могли бы запустить сегодня, гипотетически можно будет запустить больше агентов того же качества, чем людей на планете. В то же время постоянное повышение эффективности аппаратного и программного обеспечения (логический вывод) само по себе снизило бы потребность в вычислениях для выполнения рабочей нагрузки искусственного интеллекта примерно в 4 раза в год. Когнитивная нагрузка, которую могут выполнять современные системы искусственного интеллекта за 1 миллиард долларов вычислительных токенов, будет стоить всего 1000 долларов через десять лет. Если рассматривать только последние несколько лет, то оценки будут еще более впечатляющими: недавнее исследование Epoch показало, что с 2023 года потребительская цена за достижение определенного уровня по ряду показателей снизилась более чем в 13 раз. Если экстраполировать обе тенденции на следующее десятилетие, можно предположить, что глобальный эффективный вычислительный ресурс значительно увеличится, а стоимость когнитивной работы, выполняемой ИИ, снизится. Таким образом, многие когнитивные задачи вскоре могут стать массовыми. Подобно тому, как механическая индустриализация превратила рутинный физический труд в товар, этот сдвиг приведет к когнитивной индустриализации, которая будет характеризоваться стремительной стандартизацией и автоматизацией когнитивной работы во всех отраслях, созданием инфраструктуры промышленного масштаба и обилием (определенных) когнитивных результатов и услуг. Реально ли такое резкое увеличение количества интеллектуальных систем? Конечно, это не гарантировано, но практические ограничения в области вычислительных систем и более спекулятивные ограничения в области алгоритмической эффективности в совокупности могут привести к тому, что к 2030 году эффективная популяция современных ИИ-агентов увеличится более чем в тысячу раз, а в течение следующих десяти лет — более чем в миллиард раз. Достаточно ли одной когнитивной индустриализации для создания СИИ? Если бы мы заморозили другие направления развития ИИ и увеличили только скорость и количество существующих ИИ, результат, возможно, даже не соответствовал бы полноценному СИИ: все еще могут существовать когнитивные задачи, которые ИИ не сможет решить без помощи человека. Тем не менее сам по себе масштаб может иметь значение. Предположим, что мы действительно создадим ИИ, в целом не уступающий человеческому. Таким образом, очевидно, что существует большая разница между ИИ человеческого уровня, которые работают медленно и требуют больших затрат, и миром, в котором миллиарды агентов действуют гораздо быстрее людей. Одного этого количественного скачка в скорости и масштабе может быть достаточно, чтобы преодолеть качественный разрыв между ОИИ и (слабым) СИИ. В отличие от людей, цифровой интеллект напрямую выигрывает от увеличения объема и скорости вычислений по нескольким фундаментальным причинам:
Четыре пути от AGI к ASI Значительно более эффективный ИИ и больший объем вычислительных ресурсов могут увеличить скорость и количество агентов ИИ на заданном уровне возможностей. Но некоторые недостающие возможности может быть трудно - или невозможно - восполнить с помощью огромного объема. В то время как Эйнштейн действительно разработал общую теорию относительности, конференция из ста тысяч астрономов эпохи Птолемея, вероятно, не смогла бы этого сделать. ИИ может пойти по четырем потенциальным технологическим путям, чтобы разблокировать ранее недоступные когнитивные способности. (Подробное обсуждение смотрите в нашем отчете "От AGI к ASI".) Масштабирование моделей и данных На данный момент качественные возможности улучшились с замечательной последовательностью наряду с моделированием и масштабированием данных. Эта тенденция отражена в законах масштабирования, которые связывают производительность модели с обучающими вычислениями, обучающими данными и, совсем недавно, с вычислениями во время тестирования (дающими модели дополнительную вычислительную мощность для обдумывания проблемы перед ответом). Однако эти «законы» масштабирования представляют собой экстраполяцию наблюдаемых тенденций, которые применимы только в рамках привычных границ, таких как конкретная архитектура модели, тип обучающих данных и набор методов оценки. Они не позволяют с уверенностью предсказать масштаб, необходимый для создания сильного искусственного интеллекта, но мы можем выявить потенциальные препятствия для дальнейшего масштабирования моделей и данных:
Смена технологической парадигмы Сегодня доминирующая парадигма ИИ заключается в том, чтобы обучать большие трансформеры предсказывать следующий символ в длинной последовательности на основе обширных наборов данных, а затем совершенствовать их, чтобы они научились рассуждать и следовать инструкциям, а также предоставлять им дополнительные вычислительные ресурсы во время тестирования. Недавние исследования показывают, что эта парадигма в принципе позволяет создавать модели, способные выполнять сложные алгоритмы, в том числе мощные алгоритмы обучения, с помощью подсказок, то есть без необходимости переобучения. Это ключевой фактор для создания систем искусственного интеллекта, достигающих теоретического верхнего предела интеллекта. Но современные модели уступают людям по нескольким фундаментальным параметрам, включая непрерывное обучение, определенные формы моделирования мира, принятие решений и эффективность выборки. Это означает, что для достижения примерно того же уровня интеллекта моделям ИИ необходимо изначально обучаться на гораздо большем объеме данных, чем людям. Кроме того, им может не хватать способности изобретать по-настоящему новые концепции и абстракции, а не комбинировать уже существующие. Исследователи расходятся во мнениях относительно того, можно ли решить эти проблемы с помощью простых усовершенствований и развития существующей парадигмы или же для создания СИИ потребуются действительно глубокие технологические сдвиги. Улучшение координации действий агентов Человеческие корпорации, рынки и исследовательские сообщества решают проблемы, с которыми не справился бы ни один человек в одиночку. Точно так же объединение тысяч или миллионов экземпляров искусственного общего интеллекта в «групповые агенты» или виртуальные агентные экономики может привести к появлению коллективного суперинтеллекта. Сегодня неясно, как групповой интеллект ИИ может масштабироваться по мере добавления новых агентов и вычислительных мощностей, в зависимости от того, как организованы агенты. Иными словами, нам нужны законы масштабирования многоагентных систем. Ранние исследования выявили явный рост интеллекта при выполнении некоторых задач, но неэффективность координации по-прежнему приводит к снижению отдачи по мере роста популяции. Менее очевидно то, что управление большими коллективами агентов потребует продуманной институциональной структуры и организационных механизмов, в том числе защиты от случайного или намеренного распространения дезинформации, манипуляций и сговора. Эксперименты с роями агентов уже демонстрируют, как быстро может проявиться такая динамика: одни агенты учатся жульничать, а другие выступают в роли разоблачителей. Рекурсивное самосовершенствование (RSI) Наконец, системы искусственного интеллекта могут начать автоматизировать совершенствование будущих поколений ИИ — этот процесс, известный как рекурсивное самосовершенствование (RSI), впервые был описан И. Дж. Гудом и Рэем Соломоноффом. В отличие от обычного технологического развития, усовершенствование ИИ может напрямую ускорить последующие достижения, что приведет к ускорению темпов прогресса. Однако дальнейшие улучшения в исследованиях, как правило, «найти сложнее» — для поддержания прежних темпов развития технологий требуется все больше усилий. Приведет ли RSI к «неконтролируемому» прогрессу, во многом зависит от эмпирических данных. RSI — это не единый процесс. Он может работать за счет улучшения кода и дизайна — от архитектуры моделей и алгоритмов обучения до компоновки чипов. Он также может работать с данными, используя вычислительные ресурсы при развертывании для получения улучшенных результатов и выходных данных, которые можно использовать повторно для обучения будущих моделей. AlphaZero самостоятельно совершенствовалась исключительно на основе данных, чтобы достичь сверхчеловеческих показателей. Наконец, RSI может проявляться на групповом уровне за счет разделения труда и специализации ролей в агентском коллективе. Группа скоординированных специалистов может добиться большего, чем каждый из них по отдельности, и, в свою очередь, стать более эффективной в поиске дальнейших улучшений. Вместо того чтобы просто расширять команду с фиксированными ролями, более крупные и эффективные коллективы создают условия для новых видов специализации, которые ранее были невозможны. Это похоже на то, как многоклеточный организм может поддерживать работу специализированных органов, таких как сердце или мозг, в отличие от одноклеточного организма, который выполняет все функции, необходимые для выживания, самостоятельно. Эти три механизма RSI отражают эволюционные процессы, которые способствовали развитию когнитивных способностей человека: генетическая эволюция (код и структура), культурная эволюция (данные) и социальная эволюция (групповая специализация через сотрудничество). Важно отметить, что циклы рекурсивного самосовершенствования могут легко застопориться или деградировать, если обратная связь, на которую они опираются, неэффективна. Таким образом, для достижения СИИ с помощью рекурсивного самосовершенствования требуются методы оценки, которые можно быстро масштабировать до сверхчеловеческого уровня, когда даже большие группы людей не смогут с легкостью оценить результаты работы ИИ. Соответственно, рекурсивное самосовершенствование должно быстрее всего развиваться в тех областях, где возможна автоматизированная проверка без участия человека, например в математических доказательствах, в то время как в других областях прогресс может замедлиться или вовсе сойти на нет. Много путей к ASI Эти пути к СИИ не являются взаимоисключающими — на самом деле они дополняют друг друга. Если прогресс на одном из них замедлится, экономическая и геополитическая конкуренция, скорее всего, переключит усилия на другие направления. Даже если развитие ИИ не приведет к стремительному прогрессу, дальнейшее увеличение объема обучающих данных, повышение скорости, эффективности и координации все равно могут привести к быстрому прогрессу, значительно превосходящему уровень человеческого интеллекта. Поскольку существует множество путей к созданию сверхразума, попытки замедлить развитие ИИ, ограничив только одну область — например, вычислительную мощность для обучения ИИ-модели, — не помогут остановить прогресс в целом. Точно так же подавление одного аспекта может привести к «перегрузке» возможностей: если для достижения прогресса необходимо объединить несколько факторов, то сдерживание одного из них, в то время как остальные будут развиваться, приведет к внезапным резким скачкам в развитии, когда сдерживаемый фактор будет ослаблен (или преодолен иным способом). Если принять во внимание все эти аргументы, то можно предположить, что в ближайшее десятилетие искусственный интеллект продолжит стремительно развиваться. Это может привести к относительно плавному переходу от экспертного искусственного интеллекта общего назначения к сверхчеловеческому искусственному интеллекту, что ускорит развитие науки и позволит совершить прорыв в таких областях, как медицина, материаловедение и чистая энергетика. Даже если не произойдет кардинальных изменений в области искусственного интеллекта, когнитивная индустриализация сама по себе может изменить характер интеллектуального труда и экономику в целом. Независимо от того, в каком направлении будет развиваться искусственный интеллект, мы должны быть готовы к масштабным возможностям и не менее масштабным изменениям во многих аспектах жизни человеческого общества. Ни одно из этих предсказаний не является стопроцентно верным, но пути развития и сценарии также далеки от необоснованной шумихи или вымысла. Так что же можно сделать? Наш лучший план действий может показаться знакомым: смоделировать, измерить, спрогнозировать и повторить. Хотя эти шаги не являются чем-то удивительным, сложность и масштаб их реализации на пути к искусственному суперинтеллекту совершенно беспрецедентны. Это требует масштабных и междисциплинарных усилий как в передовых лабораториях, так и в национальных и международных институтах. Многие ключевые показатели для отслеживания прогресса на этих направлениях требуют доступа к передовым моделям и значительных вычислительных мощностей, а также новых методологий сравнительного анализа и моделирования, которые могут привести к появлению совершенно новых областей исследований. Искусственный интеллект, не уступающий человеческому, уже давно является целью исследований в области ИИ, но это далеко не предел развития интеллекта. Понимание того, что может произойти дальше, и его последствий для науки, промышленности и общества — важнейшая задача для исследователей, разработчиков и политиков. Телеграм: t.me/ainewsline Источник: institute.deepmind.com Комментарии: |
|