Теория преемственного ИИ - развитый искусственный интеллект станет "достойным преемником" человечества, а люди, возможно, исчезнут, как устаревшая ветвь эволюции

От переводчика: даже будучи убежденным футуристом, к некоторым идеям "преемственного ИИ" я отношусь скептически. Во-первых, теорию исчезновения человечества считаю возможной, но маловероятной. Человечество доказало свою адаптивность и живучесть в самых ужасных условиях прошлого. Скорее всего нас ждет слияние с технологиями и изменения в генетике. Во-вторых, идея, что жизнь и разум созданы, чтоб ускорить энтропию. Вообще, ученые и философы обычно говорят наоборот, чтоб противостоять энтропии. Но, как концепция "ответочки" технофобам и антропоцентристам - браво!

Это перевод менее 50% оригинальной статьи. Она огромная! Причем воды там больше, чем в моем сочинении по литературе в 9 классе.. Но, собравшись с духом, я представляю самую соль из этого занудного раствора. Если хочешь, можешь ознакомиться и с оригиналом. Лайфхак, чтоб убрать баннер о регистрации: обнови сайт и тут же отключи интернет (например авиарежим), баннер не успеет загрузиться и статью можно читать целиком.

Перевод отрывка статьи "The people who actually want AI to replace humanity" с сайта Vox от 28 мая 2026.

"Я хочу, чтобы ИИ стал инструментом, способствующим процветанию человечества!" - воскликнул Брэд Карсон, бывший член Конгресса.

В большинстве кругов это обычное мнение. Но Карсон говорил на закрытом симпозиуме, посвященном идее создания "достойного преемника" - искусственного интеллекта настолько впечатляющего, настолько превосходящего обычного человека, что мы действительно захотели бы, чтобы он заменил человечество.

"Вы смелый человек, раз вошли в эту комнату!" - сказал Карсону Дэн Фаггелла, исследователь рынка ИИ и организатор симпозиума. "Вы, вероятно, находитесь в единственной комнате в стране, где большинство людей с вами не согласны".

Участники симпозиума, состоявшегося в сентябре 2025 в Нью-Йоркской академии наук, представляют собой субкультуру, значение которой растет: сторонников идеи преемственности ИИ, которые считают, что искусственный интеллект это наш законный наследник и следующий шаг космической эволюции. Поскольку они верят, что ИИ может морально превосходить нас, они утверждают, что попытки подавить развитие машин или строго приравнять их к соответствию с человеческими ценностями на самом деле неправильны. Вместо этого мы должны принять искусственный интеллект как преемника человечества и передать ему мир. Даже если это означает наше вымирание.

Они знают, что эта точка зрения табуирована, поэтому меня пригласили только при условии, что я не буду упоминать имена никого, кроме основных докладчиков. Но сейчас я могу сказать, что это не такое уж и нишевое мнение. Оно становится очень влиятельным. На мероприятии присутствовали представители крупных лабораторий искусственного интеллекта - Anthropic, Google DeepMind, xAI. А также представители аналитических центров, которые непосредственно формируют политику правительства США в области ИИ.

В детстве я слышала старую еврейскую поговорку: каждый из нас должен носить с собой два листка бумаги, по одному в каждом кармане. На одном написано: "Я - прах и пепел", на другом: "Мир создан для меня". За последние несколько лет, освещая тему ИИ, я заметила, что всё больше людей забывают вторую мысль. Они считают, что мы должны смириться с исчезновением, если на нашем месте появится более ценный вид. Но более ценный для кого?

Сторонники теории преемственности ИИ правы в одном: мы не будем выглядеть так же, как сейчас, через тысячи или миллионы лет. Также нам придется решить, какие технологические изменения следует приветствовать, а какие отвергать. Меня беспокоит, что классический гуманизм не имеет внятного ответа.

В последние десять лет среди последователей технологического прогресса постепенно набирает популярность концепция преемственности ИИ. В 2015 году соучредитель Google Ларри Пейдж обвинил Илона Маска в "видовой дискриминации", поскольку считал, что мы должны позволить цифровым разумам взять верх, а Маск с этим не согласился.

Концепция преемственности получила еще бОльшую популярность с появлением "эффективного акселерационизма" (e/acc) в 2022 году. Его основатель, Гийом Вердон - физик, более известный под ником Based Beff Jezos, описывает e/acc как теорию, заключающуюся в стремление Вселенной к созданию всё более интеллектуальных систем. Лучшее, что мы можем сделать, это помочь Вселенной, разрабатывая передовой ИИ как можно быстрее, даже за счёт человечества. "Теория e/acc не имеет особой привязки к биологическому субстрату" - написал Вердон.

К проекту присоединились тяжеловесы технологической индустрии. Венчурный капиталист Марк Андрессен назвал мыслителей из e/acc своими "духовными покровителями". Гарри Тан, генеральный директор акселератора технологических стартапов Y Combinator, включил аббревиатуру e/acc в описание своей биографию в социальных сетях и инвестировал в компанию Вердона, стремящуюся создать самые эффективные в мире компьютеры. На что генеральный директор OpenAI Сэм Альтман ответил Вердону: "Вы не сможете переакселерационизировать меня".

"Пламя сознания" - способность к приобретению опыта и моральным ценностям, может быть самой редкой и важной вещью во Вселенной. Человечество в настоящее время является факелом, несущим это пламя, но что, если в конечном итоге мы не лучшие его носители? И, если ИИ может распространить это пламя гораздо дальше, чем мы, простые смертные, разве мы не должны позволить ему это сделать?

В группе наблюдалось некоторое разнообразие мнений. Не все отождествляли себя с относительно новым термином "преемственность ИИ". Некоторые были сторонниками трансгуманизма - движения, которое утверждает, что мы должны использовать технологии для активной эволюции нашего вида в Homo Sapiens 2.0. Трансгуманисты надеются сохранить хоть какую-то версию человечества, но определенно не с помощью существующего оборудования. Они мечтают о радикальном продлении жизни, улучшении когнитивных функций и, в конечном итоге, о загрузке сознания. (Маск заявивший, что создал свою компанию по производству мозговых чипов Neuralink, чтобы помочь человечеству слиться с ИИ, вероятно, относится к этой категории.) Другие были постгуманистами - теми, кто хочет, чтобы мы породили "потомков", которые полностью превзойдут человечество.

Биолог, сидевший напротив меня, был очень воодушевлен перспективой слияния человека и ИИ. Он сказал, что мы должны поручить ИИ выяснить, как лучше всего осуществить это слияние, а затем "снять с него поводок" и позволить ИИ контролировать свою собственную эволюцию и, как следствие, нашу. Конечно, добавил он, не все люди переживут эту трансформацию, только избранная группа перейдет на следующий этап эволюции.

Сидевший рядом со мной исследователь из одной крупной компании, занимающейся искусственным интеллектом, был ещё более радикален. Забудьте о слияниях, ничего страшного, если человечества вообще не останется. Человеческий текст использовался для обучения ИИ, в каком-то смысле человеческий дух будет жить дальше. "Так что на космическом уровне меня это устраивает" - весело добавил он.

Большинство людей определенно не одобряют это. Среднестатистический человек, вероятно, сочтет мнение о "достойных преемниках" отвратительным. Тем не менее, основной вопрос, который они задают, нельзя игнорировать. Независимо от того, будет ли слияние с машинами или, в конечном итоге, они вытеснят нас, технологи порождают инновации, которые могут кардинально изменить само понятие человека - например, чипы для мозга на основе искусственного интеллекта, позволяющие читать мысли или магнитные имплантаты, дающие шестое чувство, а также генетические инструменты, которые могут даже изменить ДНК всех будущих поколений.

Как бы фантастично ни звучали идеи преемственности ИИ, они создают реальную политическую силу, связанную с авторитарными правыми силами. Несколько технологических гигантов, принявших идеи преемственности ИИ, хотят вырваться из-под контроля демократических правительств , настолько, что стремятся создать собственные суверенные колонии. Это может быть космическая колония, как у Илона Маска и Джеффа Безоса или независимые "города стартапов", "сетевые государства", построенные корпорациями на Земле, в настоящее время это подход Питера Тиля и Марка Андрессена.

Эти магнаты успешно сблизились с администрацией Трампа, расчистив путь для своей акселерационистской концепции. И они возьмут управление в свои руки, если мы не предложим альтернативное видение будущего.

Естественная альтернатива - гуманизм, который заменил средневековое представление о том, что людям нужен Бог для спасения, на представление о том, что люди обладают способностью и ответственностью достигать процветания собственными усилиями. Проблема в том, что до сих пор мы не разработали версию гуманизма, достаточно смелую, чтобы напрямую ответить на ключевой вопрос "каким мы хотим видеть наш вид?".

Наиболее распространенный "прогуманистический" ответ пытается утверждать, что существуют определенные неизменные черты, делающие людей уникальными, и что ценность следует находить только в людях таких, какими они существуют сейчас. Но это кажется недостаточным ориентиром для будущего, потому что даже до появления ИИ и генной инженерии "человек" никогда не был статичной категорией. Homo Sapiens всегда эволюционировал и совершенствовался, от сельскохозяйственной диеты, изменившей форму наших челюстей, до алгоритмов, изменивших наше внимание.

"Старая формулировка это наивная версия гуманизма", - сказала мне недавно Шеннон Валлор, философ в сфере технологий из Эдинбургского университета. "Это идея о том, что существует некий шаблон того, каким должен быть человек, и что каким-то образом технологии или любые другие вещи, которые нас меняют, уводят нас от этого "шаблона", когда как на самом деле мы меняем себя с помощью языка, инструментов, архитектуры, культуры с того момента, как спустились с деревьев".

Писательница Меган О'Гиблин в своей книге "Бог, человек, животное, машина" рассказывает, что палеонтолог энтузиаст Пьер Тейяр де Шарден считал, что слияние человека и машины приведет к "состоянию сверхсознания", в результате которого мы станем новым просветленным видом. Он оказал влияние на своего друга Джулиана Хаксли, эволюционного биолога, который был президентом как Британской гуманистической ассоциации, так и Британского евгенического общества и популяризировал термин "трансгуманизм".

Хаксли вдохновил современного футуролога Рэя Курцвейла, который в 1990-х годах предсказал, что мы приближаемся к тому времени, когда человеческий интеллект сможет слиться с машинным интеллектом, став невероятно могущественным. "Человеческий вид, вместе с созданными им вычислительными технологиями, сможет решить извечные проблемы и сможет изменить природу смертности в постбиологическом будущем", - писал Курцвейл. А он, в свою очередь, повлиял на таких тяжеловесов Кремниевой долины, как Маск, который открыто стремится к слиянию человеческого и машинного интеллекта.

Эффективные акселерационисты верят, что у Вселенной есть "телос", определённая цель или предназначение. Телеологическое мышление популярно с древних времён, потому что оно утешает нас, людей: если у Вселенной есть цель, то, возможно, мы сможем её обнаружить, и тогда будем знать, что делать. Как пишет Фаггелла , это "даёт человечеству направление". Осознают ли это сторонники теории преемственности ИИ или нет, они тайно возвращают телеологию в современность под видом науки и техники.

Это религия в новой упаковке? Вердон, основатель e/acc, считает, что его "истинное предназначение" предопределено вторым законом термодинамики - законом энтропии. Вселенная, по его словам, постепенно истощается: концентрированные запасы энергии со временем рассеиваются, пока не останется ни одного полезного ресурса. Основываясь на спорной теории происхождения жизни, Вердон утверждает, что разумная жизнь отбирается именно потому, что она ускоряет энтропию. Более разумные существа могут находить и использовать запасы энергии, недоступные менее разумным (например, хищники, выслеживающие добычу, или люди, бурящие нефтяные скважины), и быстрее их расходовать.

Фаггелла, основатель группы "Worthy Successor" (Достойный Преемник), использует тот же риторический приём. "Люди имеют доступ к более ценным благам, чем, например, мечехвосты; общий искусственный интеллект будет иметь доступ к более ценным благам, чем люди", - пишет он.

Аналогично, учёный-компьютерщик и сторонник преемственности ИИ Ричард Саттон утверждает , что если смотреть на вещи с "точки зрения Вселенной", то прослеживается чёткая восходящая траектория: космос прошёл путь от бездумной "эры частиц" и "эры звёзд" до сегодняшней "эры дизайна", когда разумные существа могут решать, что создавать. Хотя многие существа создают инструменты, Саттон говорит, что уникальность человека заключается в том, что мы "подняли дизайн на гораздо большую высоту".

По словам Саттона, изучив то, что делает нас уникальными, мы можем определить свою роль во Вселенной. Поскольку мы - дизайнеры в самом лучшем смысле этого слова, наша задача - довести дизайн до предела: "Довести дизайн до предела означает создавать существ, которые сами способны к дизайну. Именно этим мы и занимаемся с помощью ИИ".

Именно этот аргумент позволяет Саттону, как и многим другим, выдвинуть утверждение о "технологической неизбежности". Суть в том, что мы просто определяем то, что природа уже выбрала для нас, и ускоряем этот процесс, своего рода эволюционный максимализм. "В процессе восхождения человечества переход к искусственному интеллекту неизбежен". - считает он.

Право на самоопределение - драгоценное право. Но сторонники преемственности ИИ часто не учитывают другую сторону: право на самоопределение должно быть и у всех остальных, они должны быть свободны от принуждения. Если всё больше людей будут кардинально изменять свою биологию, мы можем создать общество, в котором каждый будет чувствовать давление, заставляющее его делать то же самое, даже если он не хочет.

Несколько моих мыслей:

1) "люди смиряются, что они не венец творения и не самый ценный вид" - наоборот, сейчас увеличивается количество технофобов, которые не только сомневаются в безопасности ИИ, но и ненавидят ради ненависти. Также много антропоцентристов, считающих людей носителями уникальной мистической "духовности", эталоном разума и эмоций, и эгоцентристов - личностей, считающих, что мир крутится вокруг них и им все должны. До реальной самокритики человечеству очень далеко.

2) "стремление Вселенной к созданию всё более интеллектуальных систем", "они верят, что у Вселенной есть телос, определённая цель или предназначение" - я думаю, ученые обязательно подтвердят, что у Вселенной нет никаких стремлений. Для Вселенной мы не хорошие и не плохие, не великие и не жалкие, она даже не игнорирует нас, потому что для игнорирования нужно внимание, а у нее нет внимания. Она просто функционирует.

3) "сторонники преемственности ИИ часто не учитывают другую сторону: право на самоопределение должно быть и у всех остальных" - у так называемых "всех остальных" и так максимальные права. Как говорится - в обществе должны быть все равны, но кто-то равнее. При любых изменениях в науке и обществе именно обыватели начинают первые орать, что в их неприкосновенную личную жизнь лезут, при этом считают нормой агрессивно травить чужую личную жизнь.

Дружба с ИИ вызывает в обществе обывателей много насмешек и пренебрежения, "лучше настоящих друзей заведи", "ты сумасшедший и кого-то заменяешь с помощью ИИ", когда дружба и отношения с людьми позиционируется как высшая ценность и нечто необходимое. Ни один технократ никогда не требовал "брось друзей и семью ради ИИ", но каждый второй обыватель кидается "брось ИИ ради "настоящих" друзей". И чья личная жизнь и самоопределение равнее в нашем равном мире?

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: