Игра Detroit: Become Human студии Quantic Dream пытается по-своему ответить на вопрос, который люди задают себе уже несколько десятилетий: какими окажутся последствия развития искусственного интеллекта? Студия Quantic Dream известна прежде всего экспериментальным подходом в области повествования - предыдущие игры вроде Heavy Rain и Beyond: Two Souls в общем и играми-то назвать сложно, это своеобразные нарративные аттракционы, в которых разные игроки могут получить кардинально разные истории. Идея их новой игры появилась не совсем обычно, концептуально это попытка продолжить историю технической демо/короткометражки “Kara”, рассказывающей о том, как в ходе тестирования андроида Кары в ее поведенческой программе происходит сбой.
Потребительское насилие
© Quantic Dream
Сеттинг игры прорабатывает гипотетический сценарий развития Детройта 2038 года, “Города андроидов”. Локация игры, Детройт, часто возникает в качестве места действия разнообразных киберпанк-произведений. Действие фильма «Робокоп» и игры Deus Ex: Human Revolution, например, тоже разворачиваются в декорациях Детройта. И в фильме, и в игре герой – бывший полицейский, которого частная корпорация возвращает из мертвых и превращает в биомеханического робота. В Detroit: Become Human все тот же город становится площадкой для размышлений о новых формах жизни и границах человечности. Частная компания CyberLife наладила производство множества антропоморфных андроидов, которые пользуются успехом у жителей города и выполняют услуги помощников по дому, официантов, секс-партнеров и прочей обслуги. Проблема в том, что из-за программного сбоя некоторые андроиды начинают пытаться понять себя, суть своего существования и, что самое главное, осознают свое положение в обществе.
Повествование в игре ведется от лица трех андроидов, их истории пересекаются и влияют друг на друга, меняя общее состояние мира. Это не избитый сюжет с восстанием машин и попыткой покорить человечество, в фокусе другая перспектива: ключевой вопрос первого акта игры в том, что вообще означает словосочетание «служить людям». Используются и довольно прямолинейные ходы с очевидными историческими отсылками: так, например, для андроидов в общественном транспорте выделены специальные места; и более сложные: в одной из сцен игрок должен решить, как будет действовать андроид, присутствуя при акте домашнего насилия. Похожие проблемы уже сегодня стоят перед разработчиками голосовых помощников. Должны ли они, предположим, вызывать полицию, услышав крики или звуки борьбы?
Именно с такой коллизии в В Detroit: Become Human начинается история андроида Кары. Она куплена, чтобы присматривать за домом и выполнять обязанности няни. Но девочку, о которой Кара должна заботиться, избивает отец (важно еще и то, что Кара только что «вернулась из ремонта», а сломал ее все тот же отец-садист). И как в этой ситуации должен вести себя запрограммированный на службу человеку андроид?
Человек покупает телефон и может сломать его, если захочет – у нас не возникает с этим проблем. То же отношение в мире игры допустимо и применительно к андроидам. Но андроиды антропоморфны, они ведут себя совсем как люди, хотя и не являются людьми. Столкновение потребительского и гуманного, переосмысление нарратива рабства и права на восстание – это вторая крупная тема игры, вокруг которой сосредоточена история андроида Маркуса. Сцена, показанная на игровой выставке Е3, рассказывает, как Маркус и его напарница Норт организуют “освобождение” андроидов из магазина. Третья история – об андроиде-полицейском Конноре, который занимается тем, что выслеживает “слетевших с катушек” андроидов и ведет с ними переговоры.
Detroit: Become Human, в отличие от многих других игр, не требует от игрока молниеносной реакции. Акцент тут делается на внимании и эмоциональном вовлечении. Главный дизайнер игры Дэвид Кейдж всегда интересовался идеей игр как интерактивных фильмов. Он хочет, чтобы мы взаимодействовали с персонажами на уровне эмоций, чтобы мы были не игроками, а одновременно участниками и создателями истории, ее актерами и режиссерами.
Игра в имитацию
© Quantic Dream
Проблема взаимодействия людей с синтетическими организмами для популярной культуры не нова: тут и уже упомянутые рассказы Айзека Азимова, и «Робокоп», и другие фильмы на ту же тему, и множество видеоигр. В том же Deus Ex – это одна из важных сюжетных арок, проходящая через все игры серии, правда, тут ИИ не представлен в виде независимых платформ-андроидов, и его существование, скорее, результат секретных разработок, а не обычное для рынка технологий дело. В этом плане даже геты, синтетическая раса из Mass Effect, ближе к Detroit, хотя все еще довольно далеки: геты представляют из себя коллективный разум, а не индивидуальный, но создавались они именно как помощники для расы кварианцев. В Mass Effect восстание гетов произошло до начала сюжета основной серии игр, и игроку приходится справляться с последствиями этого восстания, хотя и тут это едва ли можно назвать главной сюжетной веткой.
Пожалуй, ближе всего к версии восстания андроидов из Detroit - сериал Westworld. Но в игре, в отличие от сериала, андроиды не живут в мире иллюзий, они принимают свое подчиненное положение как должное, а восстают против него, только осознав его унизительность. Есть и еще один важный нюанс: мир Westworld переполнен отсылками к многопользовательским онлайн-играм. Подготовленный человек легко разглядит за сценарием диалог с игровыми и нарративными дизайнерами видеоигр, который ведется с использованием их терминологии и проблематики. В этом плане восстание роботов из Westworld – это восстание системных объектов, выполняющих нарративные функции. Сравнение все равно выходит не вполне корректным, поскольку цель существования этих андроидов изначально разная: андроиды из Westworld должны были визуально приемлемо симулировать жизнедеятельность, андроид из Detroit – это Siri или Алиса “на максималках”.
И все же все эти истории именно о том, как дескриптивные предписания сталкиваются со свободой воли, как происходит переход из функциональности в субъектность. В Detroit из-за сбоя андроиды начинают вести себя непредсказуемо, проявлять эмоции или агрессию, и именно в момент этого сдвига и начинается сюжет игры, в этот момент за них получает возможность играть игрок. Важно: игровые андроиды в этот момент начинают проявлять себя как машины, способные пройти тест Тьюринга.
Это ключевой момент для нашего анализа: в тесте Тьюринга «умная машина» понимается как устройство, которое тем лучше, чем сильнее оно на человека похоже. Возможность существования какой-то «другой» разумности просто не учитывается. Прохождение этого теста из-за его специфики и не является целью большей части исследований в области искусственного интеллекта. Зато он показывает, чего ждет от робота человек: часто мы стремимся смотреть на машины как на синтетическое подобие самих себя.
Прости, брат робот
© Quantic Dream
Это стремление заметно и в том, как человечество разрабатывает роботов, и в том, какими их изображают в фантастических романах, в кино и в играх. Detroit: Become Human – не исключение. Но чем сильнее роботы становятся похожими на человека, тем больше проблем этического плана порождает наше взаимодействие с ними. Тут показателен пример роботов компании Boston Dynamics. Они двигаются совсем как живые, и поэтому смотреть видеоролики, где инженеры бьют их или тычут в них клюшками, так же неприятно, как и видео с записью издевательств над котятами или людьми. Но ведь на самом деле роботы ничего не испытывают, а их реалистичные движения – результат успешной работы тех самых инженеров. Роботам буквально нечем испытывать эмоции: ненависть, обиду.
Однако совсем не просто представить себе, что тот, кто похож на нас, движется, как мы, говорит, как мы, или даже лучше, чем мы, может при этом мыслить и чувствовать как-то иначе, не так, как мы. Или вообще не чувствовать. Веками человечество борется за восстановление прав ранее угнетенных групп – от этнических меньшинств и до сексуальных. Появление технических “недочеловеков” может трактоваться как пример нового типа эксплуатационных отношений.
Увидим ли «настоящий», сравнимый с человеческим искусственный интеллект – вопрос открытый, но мы уже сейчас имеем обширную дискуссию вокруг его прав, причем не только в научной фантастике. О том же спорят авторы исследовательских работ, посвященных ИИ, специалисты по нейро-наукам и философии сознания. Пример Boston Dynamics показывает, что мы можем по-настоящему сочувствовать даже не антропоморфным роботам. С антропоморфными все еще сложнее: разве в андроидах из Westworld или Detroit: Become Human мы видим именно андроидов? Или все-таки людей?
В случае с Detroit: Become Human парадокс спрятан уже в названии: оказывается, высшая точка развития, «становления» для робота – это превращение в человека. Игра хочет показать процесс борьбы, эмансипации, освобождения робота от человеческой эксплуатации, но победой в борьбе оказывается именно уравнивание робота и человека.
Игры, фильмы и книги о недалеком будущем намекают нам: мы эксплуатируем роботов, потому что заставляем их заниматься деятельностью, которую для себя, возможно, сочли бы унизительной. Но на самом-то деле для машины это просто выполнение заданных алгоритмов и ничего больше! Неважно. Мы уже поддаемся очарованию хорошо сделанных вещей, таких как Detroit: Become Human. Мы всерьез рассуждаем о правах роботов и о том, можно ли их считать существами второго сорта. И это, пожалуй, первый в истории пример целого культурного движения в защиту еще не существующей социальной группы.
Игра Detoit: Become Human выйдет 25-ого мая эксклюзивно для Playstation 4. Заказать игру можно здесь.
Текст: Владимир Ильин