Prey с философской точки зрения: как игра решила многовековую проблему морали

Вооружившись современной нейробиологией, разработчики нашли выход из основной дилеммы трансгуманизма.

Prey 2017 года — многоплановое произведение. Прежде всего сюжет игры рассказывает о вторжении пришельцев, которому подверглась космическая станция «Талос I». В то же время важную роль в истории играют размышления о трансгуманизме, его рисках и выгоде. Недалеко от истины мнение, что сама игра — 25 часовая иллюстрация «проблемы вагонетки». Но в конечном итоге создатели используют все эти идеи, чтобы разобраться, что же такое человек.

Подобный вопрос старше самой научной фантастики как жанра. В разное время свои версии озвучивали многие учёные, теологи и философы, а позже тему подхватили фантасты, пытаясь найти границы «человеческого». Эта проблема завела в тупик немало авторов, даже серия Deus Ex смогла лишь приблизительно очертить суть проблемы, но не найти решение.

Казалось бы, чёткого ответа тут просто не может быть, и тем не менее разработчикам из Arkane Studios удалось отыскать его. Для этого пришлось всего лишь разобрать до основания идеи трансгуманизма, обратиться к современным достижениям нейробиологии и заодно решить центральную проблему добра и зла.

Разум — последний рубеж

Станция «Талос I»

Действие Prey происходит на космической станции «Талос I» на орбите Земли. Станция принадлежит мегакорпорации «Транстар», которая занимается усовершенствованием человека. Достичь улучшений компания хочет при помощи нейромодов — модификаций человеческого мозга.

Начинается игра довольно мирно — герою предлагают пройти небольшой психологический тест. А в заглавной песне восхваляется свобода и невинность, которые ждут человечество за пределами Земли. Иронично, поскольку центральная тема игры — моральная ответственность.

Prey — требовательная к игроку научная фантастика. В ней переплетается сразу несколько тем и идей, и поэтому игру стоит рассмотреть в контексте более ранних произведений.

Иллюстрация Сида Мида — яркий образец мечты об идиллическом будущем, которое ждало бы человечество в космических колониях

Покорение космоса было одной из первых тем, которые затронула фантастика. Многие писатели и режиссёры мечтали о других мирах и придумывали самых странных существ, которые можно было бы там встретить. Казалось, освоение космоса — ключ к беззаботному существованию человечества. В 1960-е культовый фантастический сериал Star Trek даже сделал своим слоганом фразу: «Космос — последний рубеж».

К сожалению, колонизация других миров никак не изменила человеческую природу. За пределами Земли людей про прежнему ждали голод, бедность, войны и болезни.

Позднее многие начали искать утешение в трансгуманизме. Это философское течение рассматривает идею улучшения человеческой природы при помощи новых технологий. Но поскольку многие идеи рассматривали только физическое усиление человека, фантасты начали опасаться, что трансгуманизм не устранит человеческие недостатки, а наоборот — усилит их.

Мы можем встретить воплощение этих страхов в киберпанке: в «Нейроманте», «Схизматрице», «Призраке в доспехах» и многих других произведениях жанра люди стали более сильными, быстрыми и выносливыми, но остались такими же несчастными.

Ghost in the Shell, 1995

Следует также отметить, что с популяризацией трансгуманизма как никогда актуальной стала проблема «Тезея». Согласно древнегреческой легенде, это корабль, в котором постепенно поменяли каждую деталь на новую. Остался ли он самим собой? В контексте трансгуманизма вопрос можно сформулировать иначе: «Если в человеке заменить 99,99% тела на искусственные части, останется ли он человеком?»

Чтобы ответить на этот вопрос, нужно чётко понимать, что мы подразумеваем под термином «человек». Эта проблема получила широкое освещение в поджанре фантастики, посвящённом контакту с пришельцами. Именно на контрасте с инопланетянами многие произведения подчёркивали те или иные черты людей.

Одна из особенностей «Теста Тьюринга» — существуют рациональные паттерны поведения, не свойственные человеку

Несомненно, интересовала фантастов совсем не биология — на Земле и так полно других видов животных. Людей от остальной природы отличает наличие разума. «Человеческого» разума — так как многие наши решения продиктованы не только логикой, но и эмоциями. Именно гипотетические когнитивные и культурные отличия становились основой для фантастических произведений.

Для трансгуманизма эта проблема имеет практическое значение — нам необходимо понимать, какие «красные линии» не стоит пересекать, если мы хотим остаться людьми.

Даже на сегодняшний день на этот вопрос не существует однозначного ответа. С одной стороны, ваш сосед не перестанет быть человеком только потому, что имплантирует себе искусственный водитель ритма или заменит руку механическим протезом. С другой стороны, последствия вмешательства в геном или вживления нейроинтерфейса в человеческий мозг остаются неизвестными.

И всё же самыми непредсказуемыми остаются улучшения, которые затрагивают нашу психику. Они могут повлиять на то, как мы будем воспринимать окружающий мир, понимать добро и зло, как будем принимать решения и относиться к другим людям. Такие улучшения могут как спасти человечество, избавив его от постоянных войн и недопонимания, так и уничтожить его, разрушив связывающие общество узы.

Подобную идею можно встретить в последнем большом произведении Аркадия и Бориса Стругацких «Волны гасят ветер». В нём от человечества отделилась группировка сверхлюдей, которая отличалась в первую очередь не силой, а образом мышления. Такие идеи можно встретить не только в фантастике, но и в философии ХIХ века. Например, Фридрих Ницше выдвигал гипотезу, что именно новый образ мышления будет отличать сверхчеловека от его предков.

Нейромоды в Prey

В итоге именно эти идеи рассматривает Prey. В игре улучшения человека — в первую очередь ментальные, психические. Нейромоды дают феноменальную память, скорость реакции, глубокое понимание математики и других наук. Физическое улучшение же имеет второстепенное значение, словно что-то само собой разумеющееся. Перефразируя фантастику ХХ века, слоган компании «Транстар» утверждает, что именно «разум — последний рубеж».

Несомненно, небольшие изменения только улучшат жизнь людей. Нет ничего плохого в хорошей памяти, смекалке или восприятии. Но что, если нейромоды позволят избавиться от чувства боли, от волнений и переживаний. Что, если они заставят смотреть совсем иначе на знакомых и близких. Серьёзные изменения психики неотвратимо повлияют на то, какие решения принимает человек в обычной жизни, а это на корню изменит наше общество.

Модификации значительно расширяют физические и умственные способности людей

Разработчики поставили себе амбициозную цель — найти грань, которая отделяет человеческое мышление от любого другого. Самый очевидный способ показать чужой разум — придумать непохожих на людей пришельцев, и в Prey тифоны действительно получились нечеловечными. Но это всего лишь верхушка айсберга. На примере главного героя Моргана Ю Arkane Studious продемонстрировала, как человек может постепенно терять свои черты и отдаляться от других людей, всё больше принимая образ мышления пришельцев.

Так что же такое «человек» и где же грань? Для начала, разработчики вынесли за скобки любые физические улучшения, ведь множество киберпанк-произведений доказало, что человеческая природа остаётся неизменной, несмотря на любые «апгрейды». Во-вторых, они уточнили, что сами по себе умственные способности ещё не определяют «человечность»: компьютеры давно научились обыгрывать людей в различные игры, обладая несравнимо лучшей скоростью реакции и способностью к вычислениям.

В итоге, людям остаётся именно нравственная сфера — то, каким образом мы принимаем решения. И чтобы разграничить человеческий и чужой разум, Arkane Studious прибегли к самой известной моральной дилемме — «проблеме вагонетки».

Человек под поездом

«Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?» — такова первоначальная формулировка дилеммы.

Дилемма призвана продемонстрировать различие между утилитарной и деонтологической этикой. Утилитаризм оценивает действия исключительно по последствиям и призывает человека принимать решения, которые приносят в результате больше всего пользы. Деонтологический же подход заставляет человека руководствоваться определёнными правилами. Если его упростить, то принцип прозвучит как «Поступай по совести и будь что будет».

Существует множество модификаций этой дилеммы, но самая значимая среди них — «дилемма толстяка».

«Как и прежде, вагонетка несётся по рельсам, к которым привязаны пять человек. Вы находитесь на мосту, который проходит над рельсами. У вас есть возможность остановить вагонетку, бросив на пути что-нибудь тяжёлое. Рядом с вами находится толстый человек, и единственная возможность остановить вагонетку — столкнуть его с моста на пути. Каковы ваши действия?».

Такой вариант ощутимо усложняет дилемму. Если прежде человек не нёс ответственности за смерти других людей, обречённых экспериментатором, то во втором случае он непосредственно убивает невинного человека, самостоятельно толкая его под рельсы поезда. Именно в этой формулировке Prey задаёт игроку дилемму в начале игры, добавляя третью опцию — прыгнуть под поезд самому.

Тест в начале игры

Опросы и исследования показали, что убийство толстяка для большинства опрошенных — что-то немыслимое и отвратительное. А вот повернуть стрелку в первом варианте для них же проще простого.

Всё это приводит к парадоксу, если мы попробуем оценить действия испытуемых согласно практической утилитарной морали: ведь результат один и тот же, пять человек спасены ценой одной жизни!

Почему первый вариант для большинства приемлемый, а второй аморальный? И какое же решение в итоге верное? Этими вопросами дилемма затрагивает фундаментальную проблему морали.

Мораль утверждает, что существуют злые и добрые решения (правильные и неправильные, нравственные и безнравственные). Не имеет значения, выставлены критерии «правильности» Богом, заложены природой или определены общественным договором — люди должны руководствоваться общими правилами для существования цивилизации.

Соответственно, любое действие может быть нравственным и безнравственным. Отличить первое от второго бывает достаточно сложно, особенно учитывая, что большинство действий могут иметь одновременно положительные и отрицательные побочные результаты. За столетия появилось много разных концепций, позволяющих поступить правильно в подобной «серой» ситуации. Возможно, самая значимая среди них — «Доктрина двойного эффекта», предложенная 700 лет назад философом Фомой Аквинским в «Сумме теологии».

Фома Аквинский

Согласно концепции, чтобы действие считалось правильным и нравственным, оно должно отвечать нескольким критериям:

• действие должно приводить к общему положительному или нейтральному результату (в обоих примерах с вагонеткой испытуемый спасает пять человек);
• позитивный эффект должен перевешивать негативный (снова, оба результата спасают пять жизней ценой одной);
• человек обязан иметь благие намерения (нельзя убить человека только потому, что нравится убивать, и оправдать это благом для пятерых);
• действия человека не должны непосредственно приводить к негативному эффекту. Нельзя благой целью оправдывать злые поступки.

Именно в последнем критерии отличаются два мысленных эксперимента с вагонеткой. Доктрина двойного эффекта разрешает спасти пять жизней, позволив одному человеку умереть вместо них, но запрещает непосредственно убивать ни в чём не повинного толстяка.

Как бы условно концепция не звучала, именно на ней основываются почти все правовые нормы современной цивилизации. Например, на основе идей Аквинского разработана концепция допустимости самообороны. Или правила ведения войны — например, множество стран осуждают бомбардировки мирного населения с целью устрашения как допустимого способа ведения боевых действий, но в то же время не возражают против побочных потерь вследствие уничтожения вражеских укреплений.

Медицинская деонтология разделяет активную и пассивную эвтаназию, хотя оба процесса приводят к одинаковым последствиям. Акушер-гинеколог может быть категорически против аборта, но не будет сомневаться в правильности удаления матки, если это необходимо для спасения жизни беременной женщины.

Несмотря на широкое применение этой концепции, приверженцы утилитарной морали не видят разницы, почему одно действие лучше другого, если их последствия одинаковы.

Как результат, философы долго пытались понять, откуда берутся представления о морали, на чём они базируются, и почему человек интуитивно им доверяет.

Иммануил Кант, сторонник разумной природы морали

Иммануил Кант ещё в XVIII веке предположил, что наши представления о добре и зле — следствие мышления, разумного суждения. Что homo sapiens использовали умственные способности ради просветления и сами создали для себя определённые правила. С тех пор обрела популярность мысль, что мораль и нравственность приходят вместе с рациональностью, что любой просвещённый разум рано или поздно придёт к универсальным, общим правилам морали.

Отсюда и пошло распространённое мнение: какую бы жизнь мы не встретили в космосе, если она будет разумной, то её ценности будут совпадать с нашими — и мы быстро найдём общий язык.

Нейробиологические исследования 21 века доказали, что такой ход мысли ошибочный.

Добро, спрятанное в генах

На сегодняшний день эксперименты демонстрируют, что для животных характерны моральные качества, считающиеся ранее продуктом разума. Так, шимпанзе склонны поощрять бескорыстные действия и изолировать тех, кто поступает эгоистично, а львы в прайде могут поступать альтруистично, если того требуют обстоятельства.

Джошуа Грин

Одни эти факты ставят крест на теории, что нравственность возникла благодаря разумным суждениям и присуща только человеку. Но особенно интересны исследования нейробиолога Джошуа Грина, который уже несколько десятков лет изучает физиологические основы морали.

В своих исследованиях профессор Грин пользуется аппаратом МРТ и снимает коннектомы — «срезы» активности мозга. Интересно, что именно по принципу коннектом устроены нейромоды в Prey

Исследования Грина развенчали множество гипотез о нравственности и доказали, что во многом понятия о морали — врождённые. Если говорить точнее, то за разные моральные решения отвечают разные структуры мозга, и не существует универсального морального компаса. В частности, учёный опрашивал испытуемых, как они поступят в «проблеме вагонетки», и смотрел, какие зоны мозга активируются.

Варианты «проблемы вагонетки»

Так, например, если стоит выбор между «повернуть стрелку рельс» и «ничего не делать», активируется аналитическая, безличная часть нейронной коры. Решения примет та же часть мозга, что отвечает «что мне съесть на завтрак» или «поехать мне на автобусе или такси».

Но если речь заходит о непосредственном действии, как например столкнуть стоящего перед испытуемым толстяка на рельсы — активируется часть коры, отвечающая за сильные эмоции. Это становится личным решением. Поэтому возникают и разные результаты.

Джошуа Грин выдвинул гипотезу «Двойной обработки»:

За деонтологические, «совестные» решения отвечают участки, обеспечивающие автоматический эмоциональный отклик, а за расчётливые, взвешенные — аналитическая часть мозга.

Это означает, что наше моральное решение зависит от того, касается ли нас ситуация лично или нет. Возможно, всему виной так званные «зеркальные нейроны», отвечающие за эмпатию и заставляющие нас сопереживать «толстяку».

На основе исследований Грина можно сделать вывод, что то, что мы называем моралью — всего лишь эволюционный механизм, призванный защитить человечество как биологический вид.

Мораль развивалась как решение проблемы кооперации, как способ предотвращения Трагедии Общин. Она — психологическая адаптация, которая позволяет эгоистичным индивидуумам воспользоваться преимуществами кооперации.

Джошуа Грин, «Моральные племена»

При этом ключевое значение придаётся именно эмпатии и сопереживанию близким людям, которое заставляет ставить их интересы выше интересов большинства.

Кооперация развивается только если индивидуумы, склонные к сотрудничеству, побеждают тех, что нет. Поэтому, если мораль — способ адаптации, мы нравственны только потому, что наши моральные предки выиграли у их менее сговорчивых сородичей.

Поэтому, мораль, как способ адаптации, не только заставляет ставить «мы» выше в приоритете чем «я», но и «мы» выше чем «они».

Семейная любовь — не просто тёплая и уютная вещь. Это стратегический биологический принцип, часть механизма морали, который позволяет генетически близким особям получать преимущество от кооперации.

Джошуа Грин, «Моральные племена»

Таким образом, мораль, которую мы считали особенностями нашей культуры и результатом разумных суждений, оказывается ещё одной биологической особенностью нашего вида.

Неизвестно, читали ли разработчики Prey труды Джошуа Грина или сами к этому пришли, но в игре «проблема вагонетки» используется с той самой целью — продемонстрировать, что эмпатия и нравственность оказываются отличительными врождёнными чертами людей.

Разум чужой и разум человеческий

По большому счёту, вся Prey — и есть тест на «проблему вагонетки». Инопланетное вторжение — смертоносный поезд, пятеро человек на рельсах — население Земли, которое может погибнуть, если не уничтожить всё живое на станции. Так что разрушение «Талос I» математически оправдано, вопрос в том, готов ли так поступить Морган Ю.

Одно дело — «потянуть рычаг», это просто, безличностно и безэмоционально. Но готов ли главный герой ради человечества «толкнуть толстяка»: убить родного брата, по совместительству директора станции, всех своих друзей и знакомых.

Алекс Ю, брат главного героя и директор станции «Талос I»

Детальнее, чем обо всём другом, Prey рассказывает о личности Моргана Ю. Каждый месяц вплоть до катастрофы он устанавливал себе всё больше нейромодов, и всё больше становился похожим на пришельца. Каждый месяц он записывал «дневник», а тест «вагонетки» контролировал, не слишком ли далеко герой зашёл.

Символично, что сначала герой руководствовался чисто альтруистическими побуждениями — он хотел улучшить жизнь будущим поколениям. Спустя какое-то время он стал более жестоким и замкнутыми, и его знакомые начали сомневаться, всё ли с ним хорошо. А к началу игры Ю уже был готов уничтожить станцию и убить таким образом всех близких людей.

Тут стоит вспомнить о тифонах, пришельцах, на основе которых созданы нейромоды. У них нет зеркальных нейронов, а потому эмпатия им неведома. Поскольку она — неотъемлемая часть нашей нравственности, можно сказать, что они не способны к «добрым» и «злым» поступкам, а просто поступают рационально.

Директор станции даже сравнивает их с растениями и спрашивает, можем ли мы винить дерево, разрушающее корнями асфальт.

Тифоны убивают нас без раздумий. Но это не потому, что они злые, а потому, что они не могут поступать иначе. При всех их чудесных способностях, они не могут только одно, что можем мы — сопереживать страданиям другого живого существа.

Алекс Ю

Тифоны прописаны достаточно оригинально и подробно, хотя подобные концепции пришельцев уже были, достаточно вспомнить «Ложную слепоту» Питера Уоттса. Но всё же они в игре — лишь фон для центральной истории.

В Prey игрок постоянно сталкивается с выбором, который так или иначе бросает вызов его человечности. Сначала он встречает запертого в камере для испытаний маньяка, «злодея». Герой может позволить ему умереть и получить несколько дополнительных улучшений, а может из чувства сострадания его отпустить.

Дальше игра предложит сбежать со станции, оставив всех остальных в беде, а следующий выбор заставит решить судьбу шаттла «Адвент», который несёт к Земле уцелевших людей и, возможно, несколько тифонов. Морган Ю будет постоянно встречать на своём пути выживших, и игра даст возможность их выручить: отбить атаку пришельцев на блокпост охраны, найти лекарство для больного инженера, вытащить из передряги учёного.

«По-человечески» хочется всем этим людям помочь, но какой в этом смысл, если Морган должен сдержать вторжение на Землю и уничтожить станцию вместе со всеми. Именно такие вопросы задаёт Prey.

В конце-концов, выясняется, что все события — личный тест для главного героя. Что все его решения можно свести к двум: одни абсолютно логичные, правильные и рациональные, а вторые продиктованные эмпатией, странной привязанностью к другим людям, оказавшимся на станции вместе с Морганом Ю, пусть у них самих куча скелетов в шкафу.

Подводя итоги в концовке: не в ДНК, не в логике, не в способности мыслить и поступать разумно, а именно в сопереживании авторы видят ту грань, которая отделяет человеческий разум от любого другого.

Prey рассказывает, в первую очередь, не о чужом разуме, а о наших собственных эмоциях, переживаниях, альтруизме, сострадании, понятии «добра» и «зла». Вполне вероятно, что все эти качества — не продукт нашей культуры, а лишь возникшие в результате эволюции психологические уловки, которые бессознательно корректируют наше поведение и влияют на наши действия.

В какой-то мере они даже противоречат логике, эффективности и простому расчёту, и можно представить разумное существо, лишённое всех этих черт. Но в тоже время это всё то, что выделяет нас как вид, определяет, что такое «человечность», в противовес простой математике.

Трансгуманисты склонны считать, что это всё сейчас лишь сдерживает наше развитие. Но, возможно, эти вещи не стоит выбрасывать и руководствоваться чистой математикой, ведь эмпатия и альтруизм — ещё и защитные механизмы, сохранившие нас как биологический вид.

Многие произведения в жанре космической фантастики и киберпанка поднимали тему «человечности», но Prey, кажется, на сегодняшний день зашла дальше всех. Разработчики подняли все насущные проблемы трансгуманизма, от физических улучшений до расширения возможностей разума, но в итоге свели «человечность» к вопросам морали.

Заставляя нас снова и снова решать вариации «проблемы вагонетки», Prey наглядно продемонстрировала разницу между человеческим поведением и «разумными решениями, не свойственными людям».

Там где другие произведения оставляли выводы за игроком, Prey чётко показала, насколько на наши сознательные решения влияет наша природа, эмоции и личная привязанность. Пускай эмпатия и нравственность — всего лишь древние биологические защитные механизмы, как доказали современные исследования, именно они сформировали и защитили наш вид.

Именно такова наша «человечность», и насущный вопрос трансгуманизма — стоит ли нам её сохранять. А большая заслуга Prey в том, что её авторы смогли рассмотреть все эти вопросы не с точки зрения теологии или философии, а опираясь на биологию, научные исследования, факты, которые можно проверить и принять. А значит мы в любом случае стали чуть ближе к истине.

Источник: dtf.ru

Комментарии: