«В этом веке решится судьба человечества: или сверхинтеллект, или небытие»

Технологическая сингулярность (момент, когда технический прогресс станет настолько сложным, что будет недоступным пониманию. — РБК) предсказывалась еще в 1993 году американским писателем и профессором математики Вернором Винджем. Позже эту идею развил футуролог Рэй Курцвейл, который сдвинул наступление сингулярности с 2030 года на 2049-й. Тем не менее уже в следующем десятилетии мы увидим, выходит ли волна прогресса на экспоненциальный рост или захлебывается.

Автор статьи — Алексей Турчин, трансгуманист, футуролог, вице-президент фонда «Наука за продление жизни». Основатель проекта Digital Immortality Now, предоставляющего услуги по фиксации важной информации о человеке, которую можно будет использовать в будущем для возможного восстановления личности с помощью сильного ИИ. Соавтор книги «Футурология: XXI век: бессмертие или глобальная катастрофа?».

В области искусственного интеллекта (ИИ) сейчас происходит небывалый рост определенных количественных показателей — настолько быстрый, что дальше так продолжаться не может. Например, размер нейронных сетей, а именно число их параметров, при росте в десять раз за год к концу 2019 года достигло 11 млрд. Точно так же и количество вычислений, нужных для их тренировки, по подсчетам исследовательской компании OpenAI, удваивается каждые три месяца.

Эту информацию можно интерпретировать двояко: либо это он — давно ожидавшийся сверхэкспоненциальный рост, либо это попытки проехать еще немного на мертвой лошади, ведь показательный рост размеров систем ИИ отнюдь не сопровождается таким же ростом качества в смысле их близости к универсальному искусственному разуму (AGI, или Artificial General Intelligence. — РБК). При этом вопрос о сильном ИИ — основная задача XXI века, так как от него зависит дальнейшая судьба цивилизации.

Почему так важен вопрос о сильном ИИ?

Потому что универсальный ИИ нас или убьет, или сделает бессмертными. Поэтому он и называется сильным, так как способен решать задачи невероятного масштаба. Однако даже без ИИ сценарий будущего будет основываться на одном из этих двух путей: либо эволюции в сторону радикального продления жизни, либо перехода к тем или иным вариантам глобальной катастрофы.

И здесь возникает коллизия: будет ли быстрый прогресс более управляемым, чем медленный? Если сингулярность наступит, как предсказывалось, в 2030 году, то кто успеет ее оседлать? Не окажемся ли мы, как пауки в банке, в мальтузианской ловушке (ситуация, свойственная доиндустриальным обществам, в результате которой рост населения обгонял рост производства продуктов. — РБК)?

Если прогресс останавливается и мы остаемся с имеющимся набором технологий, то все существующие ресурсы становятся конечными, так как для разработки принципиально новых ресурсов нужны новые технологии. Экспоненциальное развитие экономики в мире с конечным количеством ресурсов приводит к их исчерпанию примерно за 100 лет, при этом загрязняется все, что можно, и затем наступает коллапс. Если прогресс не останавливается, то мы в конечном счете создаем «сверхтехнологии»: ИИ, нанотехнологии и биотехнологии, которые позволяют нам делать все, что угодно, с информацией, веществом и живой материей соответственно. Это означает очень большие возможности и очень большие риски, при которых возможен не просто коллапс, но и глобальная катастрофа и вымирание людей. В конечном счете масштаб разворачивающихся событий будет зависеть от скорости развития технологий.

Чего ждать от следующего десятилетия?

Во-первых, нужно наблюдать за скоростью развития искусственного интеллекта. Она покажет, начнется ли новая «зима» или будет достигнут какой-то «инфрачеловеческий» уровень. На инфрачеловеческом уровне, например, можно будет создать робота, способного приготовить и принести кофе, не разнеся при этом половины дома, не налив в чашку чистящее средство и не упав на кота. Такой ИИ — это не сверхинтеллект и даже не искусственный ученый-мыслитель, но это важное плато, на котором возможна коммерциализация и консолидация для следующего рывка.

Во-вторых, важно проследить, не выдохнется ли революция в электротранспорте и возобновляемых источниках энергии.

Затем важно определить, сможет ли «взрыв» числа стартапов в области longevity (от англ. долголетие. — РБК) трансформироваться в реальное увеличение средней ожидаемой продолжительности жизни и какова будет судьба общественных движений, выступающих за это. Например, сможет ли немецкая «Партия за медицинские исследования» (Partei f?r Gesundheitsforschung) существенно улучшить свои результаты?

Наконец, нужно смотреть, в какую сторону будет развиваться политическая ситуация в мире и не приведет ли она в первую очередь к некой масштабной войне.

Собственно, основной вопрос будущего — будем ли мы жить или умрем, и он скрывается за всеми остальными вопросами о том, насколько быстро будет происходить глобальное потепление, возможна ли ядерная война и каковы успехи у проектов по редактированию человеческого генома.

Но футурология — это не про однозначное предсказание будущего, а про осознание альтернатив, основных путей развития; понимание, где между ними находится развилка и какими своими действиями прямо сейчас мы выбираем эту альтернативу.

При этом, однако, будущее скрыто от нас туманами разной степени непрозрачности. Один из них — это иллюзия предсказуемости, уверенность в том, что все останется так же, как есть сейчас. Оно, возможно, и останется в каких-то сферах еще год, в каких-то — пять, но не в том виде, в котором мы ожидаем. Затем возникает некий ореол неоднозначности: к примеру, мы пока не знаем, кто будет следующим президентом, но можем обозначить несколько вероятных фигур. Однако дальше туман сгущается: какие-то части будущего видны, а какие-то совершенно непредсказуемы. После чего начинается сплошная пелена.

Будущее становится бесконечно неопределенным

Но над этой пеленой проступают гигантские утесы — это закономерные итоги будущего, несколько вариантов, чем все закончится. И если мы смотрим на весь XXI век, то это или бессмертие для всех, или глобальная катастрофа.

Почему так? Равновесие между силами прогресса и силами разрушения очень трудно поддерживать. Всякое «устойчивое развитие» внутренне нестабильно: оно или уходит в бесконечное ускорение сингулярного прогресса, или разваливается под тяжестью накапливающихся проблем. Даже те проблемы, которые мы создаем на нынешнем уровне, невозможно на нем же и решить. Взять ситуацию с мусором: чтобы с ней разобраться, нужны роботы-сортировщики, биологические катализаторы разложения и, может быть, даже молекулярные наноассемблеры (устройства наноразмеров, способные собирать из отдельных атомов или молекул любые сложные конструкции по вводимому в них плану. — РБК), то есть продукты более высокого технологического уклада. Однако новые технологии породят и новые проблемы, которые нам трудно представить: например, некий «высокотехнологический мусор», который будет состоять из сопротивляющихся своему разрушению наномеханизмов. В результате получается ситуация, в которой, чтобы убежать от лавины изменений, нужно бежать впереди нее.

Бесконечное ускорение прогресса может гипотетически привести и к новому стабильному состоянию, которое мы условно называем «сверхинтеллект» (как в книге «Сверхинтеллект» философа Ника Бострома). Возможно ли это — неизвестно, но он, как точка Омега французского теолога Тейяра де Шардена (состояние наиболее организованной сложности и одновременно наивысшего сознания. — РБК), возникает в конце любого мыслимого прогресса.

Разрушение, в свою очередь, также не может быть бесконечным, оно может достичь дна, снизу которого уже никто не постучит. Это, пожалуй, уровень самоподдерживающейся средневековой деревни или полное вымирание. В конце концов, мы имеем только два стабильных итога, ожидающихся в отдаленном будущем: или «сверхинтеллект» (а там же и бессмертие), или небытие.

Источник: m.vk.com

Комментарии: