О толстяках, вагонетках и моральной философии роботов

Как самый известный мысленный эксперимент современной моральной философии помогает нам понять самих себя и создать правила поведения для роботов будущего.

В 1967 году профессор философии Филиппа Фут в статье «Аборт и доктрина двойного эффекта» предложила следующий мысленный эксперимент, который уже несколько десятков лет не даёт покоя философам, антропологам, специалистам по когнитивистике и нейронаукам:

Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?

Мы можем направить вагонетку на запасной путь, чтобы ценой жизни одного спасти пятерых. Скорее всего, вы выберете именно этот вариант. Или же мы можем ничего не делать, полностью осознавая, что наше бездействие приведёт к смерти пяти невинных людей.

В моральной философии с переменным успехом противостоят друг другу концепции утилитаризма (Дж. Стюарт Милль, Джереми Бентам и другие) и деонтологической этики, которая наследует идеи Иммануила Канта. Согласно утилитаристам, предпочтительны те действия, которые увеличивают всеобщую пользу и счастье — значит, переключить стрелку нужно без всяких вопросов. А вот с точки зрения этики Канта так поступать нельзя. Человека можно рассматривать только в качестве цели, а не средства, даже если это средство для спасения жизни других.

В 1976 году Джудит Томпсон предложила усовершествованный вариант эксперимента. Выбрать правильное решение здесь становится уже значительно сложнее.

Вагонетка всё так же несётся на всех парах по рельсам, к которым привязаны пять человек. Вы стоите на мосту, который находится как раз над железнодорожным полотном. Перед вами — массивный, полный человек, которого вы можете столкнуть под поезд и тем самым спасти остальных людей. Вы можете броситься под поезд сами, но вашего веса будет недостаточно, чтобы остановить вагонетку.

Иллюстрация из книги Дэвида Эдмондса «Убили ли бы вы толстяка?»

Источник: princeton.edu

С точки зрения чистого утилитариста ничего не изменилось: вы так же морально обязаны пожертвовать одним, чтобы спасти пятерых, даже несмотря на то, что это связано с прямым насильственным действием. Но большинство людей, как показали исследования и опросы, проведённые в нескольких странах, думают иначе.

Если в первом варианте эксперимента почти все готовы переключить стрелку, то убивать толстяка желающих намного меньше. В чём тут дело? Что именно изменилось во втором эксперименте по сравнению с первым?

По-видимому, результат для нас — это не самое важное. Ещё важно, как именно он достигается.

Было предложено уже множество способов объяснить разницу между случаем с переводом стрелки и случаем с толстяком. К примеру, можно заметить, что во второй ситуации толстяк может остаться в живых, тогда как в первой кто-то обязательно погибнет.

Психолог Джошуа Грин из Гарвардского университета утверждает, что в первом случае мы имеем дело с безличной моральной дилеммой, в которой задействовано холодное рациональное мышление. А во втором включаются эмоции и эмпатия, которые ведут к совершенно иным решениям. Это объяснение выглядит правдоподобно, особенно если учесть, что толстяка намного чаще решаются убить аутисты и люди с психопатическими наклонностями, у которых с эмпатией как раз большие проблемы. Но могут быть и другие причины.

Если в первом случае вы перенаправите стрелку, а человек вдруг сможет порвать верёвки и убежать, вы будете, конечно, очень рады — ваша совесть не будет ничем отягощена. Но вот если толстяк сможет спастись и не остановит своим телом поезд, ничего радостного в этом не будет: окажется, что вы никого не спасли и совершили напрасное покушение на убийство.

За последние 40 лет было придумано ещё множество вариаций этой загадки. Вот некоторые из них:

• Вы знаете о том, что толстяк на мосту является злодеем.

• Вам не нужно сталкивать толстяка своими силами — он стоит прямо на люке, который вы можете открыть, нажав на рычаг.

• Один человек, привязанный к рельсам — ваш злейший враг, а к пятерым вы не испытываете никаких эмоций.

• Вагонетку можно убрать с путей, столкнув её с другой вагонеткой. При этом обе они попадут на лужайку и убьют человека, спящего в гамаке.

В первых вариантах эксперимента мы полностью игнорируем то, кем являются люди на рельсах, как выглядит толстяк, что на нём надето, и ещё множество других факторов, которые в реальной ситуации могут повлиять на наше решение. Некоторые считают, что по этой причине такие мысленные построения абсолютно бесполезны и ни о чём не говорят.

Но именно эта дилемма действительно поднимает важные вопросы — неудивительно, что она привлекла к себе такое внимание. Появился даже термин «вагонеткология» (trolleyology), которым обозначают исследования, посвящённые схожим моральным противоречиям.

Как указывает Дэвид Эдмондс, посвятивший этой проблеме целую книгу, схожие случаи разбирают курсанты в Военной академии Вест-Поинта, США — предполагается, что это помогает подчеркнуть разницу между методами военных сил США и террористических организаций. Последние наносят намеренные удары по гражданским, тогда как первые атакуют военные объекты, а гражданские лица становятся только случайными, хоть и неизбежными жертвами.

На самом деле, мы сталкиваемся с такими проблемами повсеместно. Вот пример из области медицины, который приводит Эдмондс:

Когда какая-то медицинская организация сталкивается с выбором — финансировать какое-то одно лекарство, которое, как считается, спасет X жизней, или финансировать другое лекарство, которое спасет Y жизней, она в действительности имеет дело с вариацией задачи вагонетки, хотя в таких дилеммах и не требуется никого убивать.

Такие мысленные эксперименты, как проблема вагонетки, которые на первый взгляд кажутся совершенно бесполезными, на самом деле помогают лучше понять, что именно мы считаем правильным и справедливым, какая этика для нас предпочтительнее.

Но и это ещё не всё. Всё большее количество задач, которые раньше выполняли люди, берут на себя автоматизированные системы. Скоро на наших дорогах появятся сотни беспилотных автомобилей. Это поднимает серьёзные этические проблемы: какую программу действий мы должны заложить в эти системы?

Как моральные дилеммы должны решать, к примеру, такие беспилотные автомобили?

Источник: google.com

Нужно ли, к примеру, автоматически отцеплять вагон, который вот-вот взорвётся, от общего состава, пожертовав меньшинством ради жизней многих? Иными словами, должны ли роботы быть утилитаристами или кантианцами?

Эдмондс считает, что мы предпочтём программировать их на минимизацию жертв и максимизацию блага. И это было бы вполне обоснованно: если эмоции мешают нам убить толстяка, то у машин нет такого оправдания. Их этика будет отличаться от нашей. Но именно наши доводы, эксперименты и рассуждения во многом определят, какой именно она будет.