ТЕХНОЛОГИЧЕСКАЯ СИНГУЛЯРНОСТЬ В КОНТЕКСТЕ ТЕОРИИ МЕТАСИСТЕМНЫХ ПЕРЕХОДОВ

Технический прогресс имеет вполне ощутимо ускоряющийся характер. Существует много экспоненциальных трендов, включающих, помимо широко известного закона Мура, также, к примеру, экспоненциальное увеличение числа подключенных к сети интернет компьютеров или объемов данных, получаемых посредством технологий сканирования мозга. Более того, более поздние технологические тренды имеют больший показатель экспоненты. Таким образом, технический прогресс в целом оказывается гиперэкспоненциальным, асимптотически устремляющимся к бесконечности за конечное время, составляющее от текущего момента несколько десятилетий. Точка, в которой некоторая функция стремится к бесконечности или не определена, в математике называется особенностью, или сингулярностью. По аналогии гипотетическую точку, при приближении к которой технический прогресс оказывается неограниченным, называют технологической сингулярностью (Сингулярностью).

Концепция Сингулярности получила широкое распространение и многими своими сторонниками воспринимается некритически. Как результат, на ее основе делаются далеко идущие (см., например), но плохо обоснованные выводы и предсказания. Критика таких предсказаний, однако, не должна переноситься на саму базовую концепцию Сингулярности и обесценивать ее.

Относительно концепции Сингулярности существуют разные заблуждения. Одно из наиболее часто встречающихся заблуждений состоит в отождествлении Сингулярности как события с созданием искусственного (сверх)интеллекта. Даже статья "Technological singularity" на англоязычной Wikipedia начинается с определения Cингулярности как гипотезы о том, что изобретение искусственного сверхинтеллекта запустит процесс стремительного технологического роста, который кардинальным образом изменит человеческую цивилизацию (хотя далее и упоминает о разных путях к Сингулярности, рассмотренных В. Винджем, впервые популяризовавшим данную концепцию).

Как следствие, одним из направлений критики идеи Сингулярности является критика мыслящих машин, возможность создания которых сама по себе вызывает споры, особенно если под этими машинами неявно подразумеваются существующие компьютеры. В то же время базовая концепция Сингулярности совершенно не требует создания «Сильного ИИ» на базе цифровых компьютеров.

Вина за подобные заблуждения во многом лежит на самих сторонниках идеи Сингулярности, поскольку они нередко пытаются одновременно защищать целый комплекс своих убеждений и желаний, полагая, что они усиливают доказательность друг друга. В то же время оппоненты ищут наиболее слабые свидетельства, полагая, что их критика опровергает весь комплекс идей целиком. При этом они также зачастую руководствуются своими субъективными предпочтениями (которые утрированно можно сформулировать как «Сингулярность невозможна, так как мы не хотим исчезновения людей»).

В данной статье проводится попытка разделить различные факторы, включая обоснованные утверждения и факты от личных убеждений и желаний, и установить, что мы можем сказать о Сингулярности с использованием минимальных дополнительных предположений и спекулятивных прогнозов. В частности, понятие Сингулярности описывается в терминах метасистемных переходов как объективного феномена.

2. БАЗОВЫЕ ПОЛОЖЕНИЯ

2.1. Теория метасистемных переходов

Хотя теория метасистемных переходов редко упоминается в связи с концепцией Сингулярности (исключением является работа, в которой данная теория применяется к концепции «Глобального Мозга»), ее вполне можно считать одним из возможных научных оснований данной концепции. Эта теория, предложенная В. Ф. Турчиным, рассматривает эволюцию кибернетических систем (то есть систем управления), как биологических (преимущественно нервной системы как естественной кибернетической системы), так и культурных. Эволюция этих систем состоит из последовательности метаси-стемных переходов, каждый из которых заключается в возникновении системы управления следующего уровня, которая осуществляет выбор между различными состояниями или экземплярами уже существующих более низкоуровневых систем управления.

К примеру, кибернетическая система сначала обладает положением в пространстве. Управление этим положением — это движение, которое само исходно неуправляемо. Простейшее управление движением (реакция на элементарные стимулы) — это раздражимость. Управление раздражимостью в условиях, когда у кибернетической системы есть много сенсоров и эффекторов, приводит к простому рефлексу (координированной, но негибкой реакции множества эффекторов на определенный сенсорный сигнал). Управление множеством простых рефлексов — это сложный (условный) рефлекс, или ассоциация (в авторской терминологии). Управление ассоциациями — это мышление. Управление мышлением (в кибернетической перспективе) — культура.

Кроме того, В. Ф. Турчин рассматривал метасистемные переходы внутри культуры (в частности, математики), но и прочие этапы эволюции могут быть описаны более детально. К примеру, в ходе генетической эволюции возникали разные уровни управления генами. Также и в техническом развитии (в особенности, вычислительной техники) могут быть выделены различные метасистемные переходы.

Существует ряд расширений и детализаций этой теории, однако в рамках нашего рассмотрения их детали не существенны.

2.2. Временные закономерности

В рамках теории метасистемных переходов не проводился анализ временных и количественных характеристик эволюции кибернетических систем. В то же время как раз графики возрастания производительности систем, построенные по некоторым «ключевым событиям» в биологической эволюции и/или в истории развития человеческой цивилизации для некоторых количественных показателей (емкости памяти, скорости вычислений, объемов производства и т. д.), обычно рассматриваются в качестве эмпирического основания концепции Сингулярности. Хотя разные авторы выбирают разные «ключевые события», кривые возрастания сложности и уменьшения интервалов между «сменами парадигм» друг с другом хорошо согласуются, как показано Р. Курцвейлом на примере 15 различных списков ключевых событий.

Вполне естественно объединить теорию метасистемных переходов, указывающую на общие механизмы глобальной, или универсальной эволюции (объединяющей разные уровни организации материи), с эмпирическим анализом временных и количественных характеристик эволюционирующих кибернетических систем. Тогда можно заключить следующее:

1. Производительность или сложность систем определенного уровня управления возрастает с течением времени экспоненциально.

2. Время между последующими метасистемными переходами сокращается геометрически, а темпы роста на следующих уровнях управления с каждым метасистемным переходом возрастают геометрически.

Таким образом, Сингулярность — это точка, в которой данные закономерности перестают выполняться.

Эти закономерности, хотя и не являются столь же точными, как, скажем, физические законы, но хорошо обоснованы эмпирически. Весьма трудно отрицать, что, скажем, рост числа нейронов в нервных системах в ходе эволюции или рост числа транзисторов в процессорах компьютеров экспоненциальный, причем время удвоения последних существенно меньше, чем первых. Сомнению может быть подвержена, разве что, значимость этих наблюдений и выводимые из них следствия.

3. ПРЕДСКАЗАНИЯ

Касательно Сингулярности обычно делаются предсказаний (см., например), которые можно разделить на два типа — экстраполяция кривых возрастания сложности и качественное описание возможных сценариев развития технологий.

3.1. Экстраполяция кривых роста

Вполне естественно, что экстраполяция эмпирических данных не дает достоверного знания, так как сводится к проблеме индуктивного вывода. В этой связи никакие предсказания нельзя абсолютизировать. Тем не менее, можно пытаться построить более вероятную экстраполяцию. При отсутствии дополнительной информации простейшее (например, в смысле алгоритмической сложности по А. Н. Колмогорову) продолжение некоторого временного ряда является наиболее вероятным. В рассматриваемом случае простейшая экстраполяция ведет к цепочке метасистемных переходов, между которыми интервалы времени будут все сокращаться, а показатель экспоненты роста для каждой последующей системы — увеличиваться, что в итоге приводит к асимптотическому приближению кривой возрастания сложности к бесконечности за конечное время. «Истинная» Сингулярность — воображаемая точка, конкретное положение которой определено не вполне точно, но по многим прогнозам технических трендов (см., например) оказывается в пределах нескольких десятилетий от текущего момента.

Одним из сопутствующих аргументов для этих предсказаний являются предсказания возможного момента появления условий для создания искусственного интеллекта (например). Здесь мы, однако, не будем опираться на эти предсказания в целях избежать обсуждения спорного вопроса о самой возможности создания мыслящих машин.

Любопытнее то, что, как показано в работе, различные подходы к предсказанию долговременных трендов, включающие помимо чисто технических трендов также и экономические и социальные циклы, независимо прогнозируют технологический всплеск в 2040-х годах, который может соответствовать Сингулярности, если определенные технологии окажутся доступными к этому моменту.

Естественно, в соответствии с существующей научной картиной мира, «истинная» сингулярность (технологическая или нет) физически невозможна. Не исключено изменение этой картины в будущем, однако на настоящий момент вряд ли ее стоит пересматривать только потому, что простейшая экстраполяция одной эмпирической кривой подразумевает бесконечность. Скорее, следует полагать эту экстраполяцию не вполне адекватной.

Вероятно, стоит ожидать замедления скорости роста, что, однако, не разрушает всю концепцию Сингулярности: черная дыра не перестает быть объектом с уникальными свойствами, даже если материя в ней не сжимается в точку с бесконечной плотностью. Таким образом, действительный интерес представляет вопрос, насколько далеко и быстро продолжит возрастать сложность кибернетических систем.

Следующая простейшая экстраполяция — это S-образная кривая, подразумевающая смену ускорения роста замедлением с перегибом в некоторой точке и дальнейшим приближением к некоторому конечному порогу. Некоторые авторы полагают, что такие S-образные кривые являются типичным паттерном в кривых возрастания сложности индивидуальных технологий, который вполне может повторяться фрактально в последовательностях метасистемных переходов на различных временных масштабах.

Конкретная форма не имеет принципиального значения. Для людей в текущий момент времени даже не столь существенно выйдет ли кривая развития на насыщение или будет участвовать в S-образном паттерне еще большего масштаба. Для нас важно, когда и как быстро начнется замедление. Пока нет оснований полагать, что замедление будет неожиданным и резким.

S-образная кривая — достаточно консервативная экстраполяция, и мы не видим признаков того, что замедление уже началось. Напротив, во многих областях очевидны ускоряющиеся темпы развития. Вероятно, мы еще не прошли точку перегиба, а после этой точки мы будем наблюдать хотя и замедляющийся, но все еще очень быстрый рост (если не рассматривать катастрофические сценарии), который приведет к возникновению кибернетических систем на переднем фронте глобальной эволюции, существенно превосходящих по сложности существующие сейчас системы, что для людей может быть мало отличимо от «истинной» Сингулярности (что ниже мы будем характеризовать как «фактическая» Сингулярность).

3.2. Возможные сценарии

Ни один конкретный сценарий в рамках концепции Сингулярности не является достаточно обоснованным предсказанием и не может быть использован для критики общей концепции Сингулярности. Означает ли это, что данная концепция не может давать предсказаний, которые могут быть подвержены проверке, то есть не удовлетворяет критерию фальсифицируемости Поппера, а следовательно, ненаучна? Не вполне. Мы не можем точно сказать, в какой конкретно форме произойдет следующий метасистемный переход, но мы можем предсказать, что некоторый метасистемный переход произойдет в указанном временном интервале, и возникшая метасистема будет развиваться экспоненциально с коротким временем удвоения (например менее полугода) и превзойдет производительность существующих кибернетических систем в течение нескольких десятилетий.

Кроме того, мы все же можем выдвинуть некоторые предположения о том, какой сценарий является относительно более вероятным. Все сценарии основаны на так называемых сингулярных технологиях, то есть технологиях, которые ускоряют свое собственное развитие (что обычно связывается с некоторой формой сверхинтеллекта). Обычно в качестве иллюстрации приводится искусственный интеллект, который становится быстрее за счет изобретения более быстрых компьютеров, что позволяет ему изобретать эти компьютеры еще быстрее. Но мыслящие машины здесь не обязательны. К примеру, генная инженерия может привести к появлению более умных людей, которые будут быстрее выполнять генетические исследования, приводящие к появлению еще более умных людей еще быстрее и т. д. В целом подобные сценарии можно охарактеризовать как «взрыв интеллекта».

Широкие классы сингулярных технологий включают био-, нано-, инфо- и, возможно, некоторые другие технологии и их комбинации (например, можно представить нано-роботов, населяющих человеческий мозг и расширяющих его возможности). Эти технологии имеют различные времена удвоения. К примеру, для появления генетически модифицированных людей нужны годы для роста и обучения, тогда как другие формы суперинтеллекта могут развиваться быстрее, опережая путь генетических модификаций (особенно если говорить о социальных факторах, связанных с генной инженерией).

Естественно, подобный анализ будет далек от строгого и не может принять во внимание неизвестные будущие технологии, а также не рассматривает взаимодействия между разными технологиями. Он также не учитывает социальные, геополитические и экономические факторы, которые могут быть необходимы для предсказания будущего развития. Тем не менее, он может нам позволить предположить, какие технологии с меньшим временем удвоения могут привести к следующему метасистем-ному переходу. Такой анализ, однако, не является предметом настоящей статьи, и мы лишь хотим подчеркнуть, что предположения о возможных реализациях последующих метауровней не должны использоваться для критики концепции Сингулярности как таковой.

Дополнительным источником для предсказаний является сама теория метасистемных переходов, так как она предлагает для них общие механизмы. К примеру, можно высказать предположение, что следующей метасистемой будет «контроль культур». Кто-то может даже сказать, что этот переход уже осуществляется в том смысле, что люди взаимодействуют друг с другом и искусственными агентами через интернет, образуя метасистему, либо же он будет достигнут в форме «глобального мозга». Хотя подобные сценарии выглядят логическим следствием теории метасистемных переходов, эта теория не является достаточно детальной, чтобы описать и предсказать «аппаратное обеспечение» метасистем. Например, она ничего не говорит о том, почему ДНК как «аппаратное обеспечение» кибернетических систем сменилась (или, скорее, была расширена) нейронами. Аналогично, теория не говорит нам о том, на каком аппаратном обеспечении должен воплощаться уровень культуры и последующие метауровни.

Комментарии: