Навстречу сингулярности, или Как исчезнет человечество

Ровно сто лет назад вышел труд немецкого философа Освальда Шпенглера «Закат Европы». «Закат», как известно, шороху наделал – и из-за громкого названия, и из-за пессимистических прогнозов относительно будущего европейской цивилизации, разумеется, и из-за эффектной манеры изложения, которую при всем уважении трудно назвать научной. Прогнозы Шпенглера по большей части не сбылись, и книга осталась в истории культуры скорее как артефакт и крик неравнодушного ума.

Аккурат через сто лет подоспело очередное сочинение в жанре «Мир, как мы его знали, подходит к концу». Андрей Курпатов выпустил трактат «Четвертая мировая война» (М.: Капитал, 2019). Книга является органическим продолжением трилогии А. В. Курпатова «Красная таблетка», «Чертоги разума» и «Троица», каковая трилогия представляет собою замечательный самоучитель интеллектуального труда.

Накануне выхода «Четвертой мировой» автор обронил в интервью глянцевому журналу: «Это самая актуальная книга для человечества». За все человечество говорить не рискну, но в Европе, Японии и Северной Америке книга, если б ее написал местный автор, безусловно, стала бы интеллектуальным бестселлером уровня сочинений Хокинга, Митио Каку, Талеба: обстоятельное, научно корректное и вместе с тем внятное и нескучное изложение нетривиальных идей. У нас же вкусы публики и нравы книгоиздательского бизнеса таковы, что несмотря на весь размах промо, боюсь, она останется сочинением для немногих.

Но хорошо бы, конечно, чтобы ее прочитали те, кто готов оценить мыслительную эквилибристику автора и воспринять написанное там. Во всяком случае, заметно, что ему этого очень хочется: зря, что ли, он, по его собственным словам, ненавидящий публичность, обклеил своими изображениями все книжные магазины и вагоны метро?

Впрочем, к содержанию его книг это не имеет отношения.

Если «Красная таблетка» etc. – подробное и вместе с тем нескучное диагностическое заключение, разъясняющее, как и почему мы проигрываем в борьбе с собственным мозгом, то «Четвертая мировая…» - диагноз цивилизации в целом, здесь с научной обстоятельностью и корректностью (привет Шпенглеру) и вместе с тем довольно доходчиво разъясняется, почему, когда и при каких обстоятельствах человечество проиграет битву искусственному интеллекту и прочим умным технологиям, им же придуманным.

Прогноз автора на 100 % пессимистичный, он не видит ни одной причины, почему в результате восстания машин человечество в том виде, каким оно было последние десятки тысяч лет, не исчезнет.

Зачем же писать, а главное, читать подобные книги, если предотвратить такой исход, судя по всему, невозможно?

Ответ на этот вопрос автор дал в финале книги: понятно, куда все движется; спасенья нет, но это не повод отказываться от острейшего из доступным нам наслаждений – мыслить.

Глава «Навстречу сингулярности» из книги А. В. Курпатова «Четвертая мировая война» публикуется с любезного разрешения правообладателей.

Сергей Князев.

Мы сольёмся с искусственным неокортексом в облаке.
Мы станем умнее. Я не считаю, что ИИ нас заменит,
— он нас усилит. И это уже происходит.
Рэй Курцвейл

2040–2045-й годы – наша с вами последняя пятилетка. После ни мы сами, ни наш мир уже никогда не будем прежними. По Курцвейлу, мы войдём в область так называемой «технологической сингулярности».

Если совсем просто, то это значит буквально следующее: к 2045 году небиологический интеллект превзойдёт наш (то есть биологический) в миллиарды раз, станет всё быстрее и быстрее совершенствовать сам себя, достигнув в результате совершенно непредставимых с нашими интеллектуальными возможностями высот.

Математическое понятие «сингулярности» в отношении прогнозирования будущего впервые применил ещё великий Джон фон Нейман. Действительно, как ты этот прогресс ни считай, неизбежно приходишь к точке, где функция начинает вести себя настолько парадоксально, что все дальнейшие прогнозы становятся просто бессмысленными – одна сплошная абракадабра. Грань, так сказать, математического понимания.

Причём в физике ситуация аналогичная. Физическая сингулярность – это тоже расчётная точка, в которой достигаются некая бесконечная плотность и температура вещества, объём которого при этом стремится к нулю. Представить себе это абсолютно невозможно – за гранью человеческого понимания. Образно говоря, добегая до сингулярности, вселенная сворачивается в дырку и становится неразличимой – что-то вроде того…

Звучит всё это немного странно – не находите? Да. Поэтому всякий раз, когда вы слышите в определении футурологов это ласкающее слух словосочетание – «технологическая сингулярность», – не умиляйтесь его ложной красотой. Оно означает, что наше с вами будущее парадоксально, непрогнозируемо, неконтролируемо и непредставимо. Уже не так трогательно, правда?

Первым, кто перевёл всё это безобразие на человеческий язык, был профессор математики и культовый писатель-фантаст Вернор Виндж. В 1993 году на симпозиуме VISION-21Центра космических исследований NASA им. Льюиса и Аэрокосмического института Огайо он прочёл доклад «Технологическая сингулярность».

Суть его выступления сводилась к следующему: мы на грани перемен, сравнимых с появлением человека на Земле, – развитие техники неизбежно приведёт нас к созданию сверхмощного искусственного интеллекта, обладающего собственной сущностью, или, если угодно, специфическим разумом. За этим последует конец человечества, по крайней мере в том виде, в котором мы его знаем.

«Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные действия любого человека, как бы умён тот ни был. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить ещё более совершенные машины.

За этим, несомненно, последует “интеллектуальный взрыв”, и разум человека намного отстанет от искусственного. И вероятность того, что в двадцатом веке сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероятность того, что этого не случится».

Ирвинг Джон Гуд
математик и криптограф

Впрочем, это «светлое будущее» нам предрекал ещё соратник Алана Тьюринга по расшифровке фашистской «Энигмы» в Беркли-Парке Ирвинг Джон Гуд. Он считал, что вероятность того, что это случится в XXвеке, даже больше, чем в XXI, но в своём прогнозе ошибся.

Курцвейл, как мы знаем, прогнозирует Пришествие Сингулярности в 2045 году. Но вот, прогнозам Винджа, это должно случиться уже к 2030 году, и он в этом совсем не одинок.

Стюарт Армстронг из Института будущего человечества и Кай Сотала из Института исследований машинного интеллекта провели в 2012 году опрос участников Саммита Сингулярности и выяснили, что среднее медианное значение, если учесть мнение всех экспертов из этой выборки, составляет 2040 год. То есть, как бы там ни было, большинство читателей моей книги, включая меня самого, имеют все шансы до этого момента дожить.

Что же нам от этой радости ждать?.. Проблема, как вы уже, наверное, понимаете, в том, что ответа на этот вопрос нет. Есть абсурдная абракадабра.

Самое важное, что этот сверхразумный интеллект будет полностью самопрограммироваться – то есть самостоятельно ставить себе цели и решать любые задачи. Это кажется абсолютной фантастикой: думаю, что примерно такой же, какой бы выглядел в глазах муравья наш с вами мир, если бы он мог охватить его своим взором.

Муравей появился на этой планете где-то 140 миллионов лет назад – не такой уж и большой для эволюции срок, – но никогда муравью не понять нашего мира. Стоит ли удивляться, что мы скоро не сможем понять мир, который будет создан как бы поверх нас? Я бы не стал.

Для нас 2045 год будет, по Курцвейлу, последним: произойдёт полное слияние нашего мозга с искусственным неокортексом в облаке. Собственно, этот момент и называют той самой «технологической сингулярностью», к которой вроде как всё идёт. Впрочем, всё идёт, но не всё так однозначно…

«Земля, –говорит Курцвейл, – превратится в один гигантский компьютер», а к 2099 году «процесс технологической сингулярности распространяется на всю Вселенную».

Справочно

В 60-х годах прошлого века Хайнц фон Ферстер и Иосиф Шкловский пришли к выводу: в 2030 году нас ждёт «демографическая сингулярность», когда кривая роста населения Земли «встанет на дыбы».

В 1993 году отечественный историк-востоковед Игорь Михайлович Дьяконов, изучая глобальные исторические процессы, ввёл понятие «исторической сингулярности».

Впоследствии его выводы развил Сергей Петрович Капица: он показал, что, когда население Земли достигнет 9 миллиардов человек, то вне зависимости от причинных факторов произойдёт неизбежный переход человечества на новый уровень его организации.

В 1996 году австралийский учёный-эволюционист Грэм Дональд Снукс сформулировал аналогичный закон для эволюции биосферы – «эволюционной сингулярности», которая тоже «ускоряется с ускорением».

Наконец, с 2001 года термин «технологическая сингулярность» в общественном сознании стал ассоциироваться с именем Рэя Курцвейла.

В теоретической физике сингулярностью называют область максимального сгущения материи под действием гравитационных сил – те самый бесконечные плотность и температура вещества в минимальном объёме.

Космическая чёрная дыра, представляющая собой эту самую сингулярность, находится за горизонтом событий – то есть никакая информация не может покинуть этой области и вырывается наружу, а все известные физике законы перестают там работать.

«Технологическая сингулярность» – это состояние техники, когда она перестаёт быть нашим подручным инструментом, а мы лишаемся всякой возможности управлять ею. Она как бы берёт управление нашим и не нашим и вообще всем бытием на себя. В каком-то смысле она сама становится своего рода новым бытием, полностью преображая собой реальность, включая, понятное дело, и нас самих.

Таким образом, слияние человека с искусственным интеллектом, о котором так часто талдычат, – это, вообще-то, вопрос частного характера, незначительный побочный эффект. Ну да, мы сольёмся с большим и всесильным Расчётным Разумом. Но правильнее было бы говорить, что он просто поглотит нас.

Причём сам Курцвейл, как мне кажется, вовсе этого не скрывает, высказывается прямо и открыто, вовсе не пытаясь сгладить углы.

«Сингулярность – это не просто появление мыслящих машин в 20-х годах XXI века. Это станет лишь началом революции, когда мощность этих машин продолжит экспоненциально расти, и они станут сами себя перепрограммировать, чтобы сделаться ещё умнее.
В 2045 году интеллект машин вырастет в миллиарды раз по сравнению с совокупным интеллектом всех людей – это и будет горизонтом событий, потому что наш разум не в состоянии представить себе поведение сознания, которое настолько его превышает.
В любом случае, нам придётся измениться, чтобы соответствовать машинам, возможно, усилив за их счёт наш собственный интеллект».
Рэй Курцвейл

Мы настолько зациклены на важности и значительности человеческой самости, которая, по правде сказать, в масштабах Вселенной полный нуль, что буквально не можем услышать этих простых и, по-моему, предельно понятных слов: «наш разум не в состоянии представить себе поведение сознания, которое настолько его превышает», «нам придётся измениться, чтобы соответствовать машинам».

Но каким должно быть это наше «изменение»? Ответа на это нет, а мы не особенно и задумываемся. Так что Курцвейл, зная про нашу глупость, самодовольство и ограниченность, говорит об этом прямо – совершенно не опасаясь панической реакции на свои слова.

По сути же, они, конечно, являются приговором не только миру, к которому мы так привязаны, но и нам самим (по крайней мере, в том виде, в котором мы себя знаем, и в качестве того вида – Homo Sapiens, – которым мы пока являемся).

Источник: m.vk.com

Комментарии: