По правилам Рыжих авторов, сейчас я могу высказать свою позицию по вопросу, заданному в понедельник

По правилам Рыжих авторов, сейчас я могу высказать свою позицию по вопросу, заданному в понедельник. Напомню, мы обсуждаем место и роль человека в эпоху сингулярности, когда прогресс цивилизации, многократно ускоренный возможностями «сильных» ИИ, выйдет из-под нашего непосредственного контроля.

Сразу же хочу сказать, что моё мнение - не плод неких собственных озарений, а лишь отражение идей, высказанных учёными, мнению которых я доверяю.

Прежде всего, давайте рассмотрим самый важный вопрос: а можем ли мы в принципе обойтись без сильного ИИ? Ведь раньше жили без него. Развивались и развиваемся, прогресс идёт.

Если начертить график, описывающий технологическое развитие человечества, то он практически совпадёт с сигмоидой (иллюстрация в конце статьи): долгий поступательный рост, затем стремительный рывок вверх, продолжавшийся, грубо говоря, с 18 по 20 век, и сейчас, в 21-ом веке, плавный перегиб, сменивший экспоненциальный рост на плавное приближение к горизонтальной асимптоте. Другими словами, технологии развиваются всё медленнее, а вскоре это развитие может и вообще остановиться. Учитывая ограниченность ресурсов планеты, такая остановка неминуемо приведёт к вырождению цивилизации.

В чём главная причина замедления темпов роста? Я согласен с теми, винит в ней саму человеческую биологию. Рассмотрим этот момент чуть подробнее. Человеческая цивилизация движется путём последовательного накопления знаний, теорий, умений. Соответственно, для освоения этих знаний учащемуся требуется всё больше и больше времени.

Нетрудно понять, что со временем объём накопленных знаний достигнет таких величин, что на его изучение просто не хватит человеческой жизни. Более того, этот объём уже практически набран. К примеру, вплоть до 19-го века нормой были учёные энциклопедисты, знавшие свои и смежные дисциплины досконально.

Сегодня изучить всю физику – от механики до квантовой физики – не под силу ни одному учёному. Современные учёные вынужденно становятся специалистами в узких областях. Но и там они начинают полноценные новаторские исследования в среднем в возрасте 33-х лет. (По статистике, средний возраст доктората – 30 лет, постдокторат занимает от 2 до пяти лет). таким образом, узкая специализация это паллиативная мера и в дальнейшем возраст достижения переднего края науки даже в узких областях также выйдет за границы разумного.

Но даже сегодняшнее положение уже несет признаки стагнации. Ведь с возрастом наши когнитивные способности снижаются. Пропадает свежесть взгляда, неортодоксальность мышления. В возрасте 35+ учёные, за редким исключением, развивают идеи, выдвинутых их предшественниками, не разрабатывая принципиально новые теории. Прогресс 21-го века – это лишь реализация старых идей. (Об этом говорили такие известные учёные и популяризаторы науки, как Стивен Хокинг, Нил Тайсон, Ник Бостром и другие). К примеру, теория струн, которая считается одной из самых перспективных в квантовой физике, была создана ещё в начале 70-х годов прошлого века, более полувека назад! (Прочитайте на эту тему великолепную книгу "Космический ландшафт" Л. Сасскинда ). Первую теоретическую модель квантового компьютера разработал великий физик Ричард Фейнман в 1981-ом году. Основные понятия столь популярных сегодня нейросетей были постулированы в 1943-ем году, а все их основные элементы разработаны к середине 80-х годов прошлого века.

Таким образом, можно уверенно говорить, что от эпохи открытий мы перешли к эпохе реализаций. Но это и есть то самое снижение темпа развития цивилизации, о котором мы говорили выше. А значит, угроза тупика и вымирания – реальна и фактически неизбежна.

И вот тут на сцену выходит AGI, он же «сильный» ИИ: универсальный искусственный интеллект, способный к самостоятельной постановке вопросов и поиску ответов на них. Другими словами, обладающий мышлением, причём необязательно аналогичным человеческому. Заметим, что в отличие от человека, когнитивные способности ИИ не снижаются со временем. Он способен к практически мгновенному запоминанию и к неограниченному накоплению знаний. Таким образом, он не будет стеснён ни рамками узкой специализации, ни биологическими факторами. Скорее всего, используя весь накопленный человечеством объем знаний, он сумеет перейти на качественно новый уровень, на какой-то период обеспечив науке период взрывного, экспоненциального роста. (Об этом высказывались, в частности, такие специалисты в области ИИ, как Стюарт Рассел, Фэй-Фэй Ли, Ян Лекун и другие). Это и станет той самой эпохой сингулярности, о которой мы говорили в понедельник. (Кстати, термин сингулярность применительно к взрывному, неконтролируемому человеком технологическому росту впервые применил ещё Джон фон Нейман на рубеже 50-х годов прошлого века!) Какие открытия совершит «сильный» ИИ, какие технологии разработает и как их применит – мы не знаем. Любые измышления на эту тему не более, чем спекуляции. Но, зная самих себя, мы можем попытаться представить наше место в эпоху сильного ИИ. Как мне кажется, в мире сильного ИИ человечеству всё равно грозит упадок. Ведь прогрессировать будет уже другая разумная раса – раса мыслящих машин. (Или одной мыслящей сверхмашины). Нам, в лучшем случае, будет оставлена роль потребителей созданных не нами благ, чем-то вроде кошек в наших домах. Ухоженные, накормленные, снабжённые «игрушками» и «когтеточками», мы будем постепенно тупеть, будучи в принципе неспособными понять сверхсложные действия и непостижимые мотивации новых хозяев вселенной.

Считаю ли я такой вариант неизбежным? Нет. И здесь я полностью солидарен с движением трансгуманизма в понимании таких учёных, как Рэймонд Курцвейл (у него есть прекрасный труд "Эволюция разума"). С точки зрения трансгуманистов, как биологический вид Homo Sapiens себя практически исчерпал, дойдя до потолка своих возможностей. В дальнейшем наше развитие возможно лишь за счёт направленной эволюции, сочетающей как биологические, так и электронные компоненты. Другими словами, путём превращения человека в постчеловека. Все предпосылки к подобному эволюционному скачку у нас уже есть. С одной стороны это прототипы AGI, а с другой – нейроинтерфейс, созданный компанией «Нейролинк» Илана Маска и разрабатываемый рядом других компаний и исследовательских групп. В достаточно близкой перспективе они позволят расширить наши когнитивные (и физические) возможности как количественно, так и качественно. Идея выживания человечества состоит в том, что внедрившись в само ядро сильного интеллекта, став его интегральной частью, мы не окажемся вытесненными из процесса развития цивилизации, а будет совершенствоваться и меняться вместе с ней. И тогда в эпоху сингулярности мы войдём как единое целое – объединённая суперцивилизация не людей и не машин, а новой постчеловеческой сущности, название и определение которой нам ещё только предстоит найти.

Останемся ли мы при этом людьми в том понимании, какое мы вкладываем в это понятие сейчас? Думаю, нет. Постчеловек – это нечто иное. Но я не считаю это трагедией. Как писал Циолковский, нам давно пора выйти из колыбели. Но если великий калужский мыслитель считал колыбелью нашу планету, то сейчас ею можно считать и нашу нынешнюю биологическую форму. Скажу больше. Каждый из нас на протяжении своей жизни проходит через аналогичный процесс. Ведь между личностью взрослого человека и крошечным сознанием четырёхлетнего ребёнка, которым он когда-то был, крайне мало общего. Взрослея, мы претерпеваем качественные изменения. Мы становимся, если угодно, постдетьми. И мы считаем этот процесс нормальным. Но проведите эксперимент. Спросите малыша, как он отнесётся к тому, что ему придётся отказаться от всех его игрушек, от простеньких мультиков, скажите, что он должен будет по восемь часов в день заниматься трудным делом, не имея возможности погулять и поиграть.

Думаю, вы его здорово напугаете. Также и нам нынешним потеря «биологического детства» кажется ужасным. Но я верю, что перейдя в «галактическую зрелость», обретя такое количество «степеней свободы», какое мы сейчас и представить себе не в состоянии, мы станем вспоминать о нашем человеческом прошлом с лёгкой усмешкой и, как максимум, со снисходительной ностальгической теплотой.

Согласны

Источник: vk.com

Комментарии: