Технологическая сингулярность

Уменьшение промежутка времени между эволюционными событиями (биологическая, затем технологическая эволюция)

Технологи?ческая #сингуля?рность — гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию, предположительно следующий после создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами, либо значительного скачкообразного увеличения возможностей человеческого мозга за счёт биотехнологий.

#ВернорВиндж считает, что технологическая сингулярность может наступить уже около 2030 года, в то же время Рэймонд Курцвейл даёт 2045 год. На Саммите Сингулярности в 2012 году #СтюартАрмстронг, основатель оценки экспертов, медианное значение этой выборки составило 2040 го].

Курцвейл пишет, что из-за смены парадигм тенденция экспоненциального роста наблюдается от интегральных схем до более ранних транзисторов, электронных ламп, реле и электромеханических компьютеров

История концепции

Идею об ускоряющемся росте научного знания впервые можно встретить в работах Фридриха Энгельса, который, в свою очередь, основывался на работах Эрнста Геккеля, опубликованных в 1874—1875 годах, в которых автор указывал на ускорение темпов эволюции живых организмов в геологическом времени, которое также прослеживается и в развитии человечества («Антропогения», или «История развития человека» - «Anthropogenie», или «Entwickelungsgeschichte des Menschen»). Во второй половине XIX века Ф.Энгельс писал о том, что наука движется вперёд пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI—XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В. И. Вернадский, писавший о непрерывном росте темпов научного творчества. По мнению некоторых современных исследователей, имеет место «экспоненциальный закон развития науки», проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей. Однако важно отметить, что экспоненциальный рост как раз не предполагает никакой сингулярности в математическом смысле этого понятия.

В работе «Дань уважения Джону фон Нейману» (1958) Станислав Улам вспоминает о беседах с Джоном фон #Нейманом, в которых они оба обратили внимание на тот факт, что, поскольку технологический прогресс, определяющий то, как мы живём, постоянно ускоряется, то должен наступить такой момент, когда люди не смогут поспевать за технологиями — то есть наступит то, что математики называют сингулярностью. Но на этот раз это будет не особенностью в некой физической системе, а особенностью в истории человечества.

В 1965 году Ирвинг Гуд описал такую сингулярность в развитии технологий немного по-другому: что в определённый момент времени, когда самая мощная интеллектуальная машина сможет создать другую машину, которая превзойдёт возможности людей, может произойти некий «интеллектуальный взрыв».

Похожее понятие «вертикального прогресса» братья Стругацкие изложили в повестях «Малыш», «Волны гасят ветер» и других своих произведениях.

Близко к концепции сингулярности находятся идеи Станислава Лема о вероятной эволюции компьютеров. В наиболее предельном виде эволюция компьютеров описана в эссе «Голем XIV. Лекция XLIII. О себе».

Термин «сингулярность» заимствован у математиков и астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной — точка с бесконечно большой плотностью и температурой и бесконечно малым объёмом. Математическая сингулярность (особенность) — точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки — особенности функции.

В данном контексте впервые термин «сингулярность» использовал в середине XX века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова — точку, за которой экстраполяция начинает давать бессмысленные результаты (расходится). Об этом пишет Вернор Виндж, которому данный термин обычно приписывают]. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.

Начало сингулярности

Одними из фундаментальных открытых вопросов насчёт сингулярности являются вопросы о её существовании, времени наступления и темпах роста технологических изменений. Время её начала предполагают, экстраполируя некоторые тенденции технологического развития.

Предел сингулярности

Применяя научный подход, мы заметим, в естествознании типично, что процессы, характеризующиеся экспоненциальным ускорением на начальных своих этапах, переходят в фазу насыщения. Это наглядно позволяет осознать, что, если на протяжении некоторого интервала времени наблюдается возрастание с ускорением, это отнюдь не означает бесконечное продолжение этого процесса. Напротив, во многих случаях это означает скорый выход на плато скорости. Процессы, происходящие в естествознании позволяют не выдвинуть предположение, что наблюдаемая картина ускорения научно-технического прогресса, через некоторое время (в физических процессах, как правило, короткое) сменится замедлением и полной остановкой? Возможные механизмы торможения ускорения развития инфокоммуникаций в целом просматриваются как в адаптационных возможностях самого человека, так и в приближающихся горизонтах планирования. При этом, несмотря на возможное в обозримом будущем прекращение/затухание ускорения прогресса науки и техники, сам прогресс, и как следствие, социальные трансформации, не остановится и даже не замедлится — он продолжится с достигнутой (возможно, огромной) скоростью, ставшей постоянной].

Критика концепции

Ряд учёных (из наиболее известных российских, например — один из основоположников клиодинамики А. В. Коротаев и биолог А. В. Марков) выступают с критикой данной концепции, утверждая, что явно выраженной точки сингулярности, с острым кризисом, не будет. Ими утверждается, что развитие идёт по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение, то есть Мир-Система «точку сингулярности» в процессе модернизационного фазового перехода уже прошла]; при этом под точкой сингулярности здесь подразумевается такая точка на графике развития, в которой скорость максимальна (середина S-образной кривой).

#Коротаев в своей статье рассматривает и даёт оценку понятию сингулярности в различных областях (экономической, технологической, культурной и т. д.). Так как гипербола переходит в бесконечность за конечный промежуток времени, то можно вычислить момент обострения, в который некий показатель развития приобретает бесконечное значение. В реальных процессах никогда не наблюдается ухода в бесконечность, а вместо этого система испытывает качественную трансформацию (фазовый переход) перед достижением точки сингулярности. На примере кривой экономического развития, уже находящейся в режиме обострения, Коротаев иллюстрирует характер движения прочих гиперболических кривых, в которых ожидается сингулярность. В своём примере он исходит из предположения, что экономика тесно связана с демографией, и эта зависимость главным образом определяет характер движения экономической кривой.

Концепция технологической сингулярности в политике

Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчёте 2007 года Комиссии по экономической политике Конгресса США]. По некоторым мнениям, придерживающихся возможности сингулярности, она должна наступить около 2030 года. Если проэкстраполировать закон Мура, окажется, что примерно в то же время вычислительная мощность компьютеров сравнится с головным мозгом человека. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческую логику.

Технологическая сингулярность в популярной культуре

Кроме рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики. Среди них можно отметить Уильяма Гибсона, Чарльза Стросса, Карла Шрёдера, Юрия Никитина, Грега Игана, Дэвида Брина, Иэна Бэнкса, Нила Стивенсона, Тони Баллантайна, Брюса Стерлинга, Дэна Симмонса, Дэмиена Бродерика, Фредерика Брауна, Яцека Дукая, Нагару Танигава, Кори Доктороу, Питера Уоттса. Кен Маклеод в своём романе 1998 года «Подразделение Кассини» (англ. The Cassini Division) определяет сингулярность как «вознесение для нердов».

Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящён жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта, но я должен кричать» (англ. I Have No Mouth, and I Must Scream). Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Стросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «newuniversal». В произведении Джеймса Милна «Все куклы» (англ. Puppets All) затронуты эмоциональные и моральные проблемы сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема «Фиаско» (1986), «Ложной слепоте» Питера Уотса, «Нечётком дроблении» Пола Ди Филиппо. Проблема технологической сингулярности актуальна и на Востоке. Яркий пример этому — манга о слиянии и почти безграничном сознании человека и искусственного интеллекта «Ghost In The Shell».

В кинематографе примером фильма, целиком посвящённого технологической сингулярности и реакции человечества на неё, является «Превосходство».

Комментарии: