Наблюдая за видеороликами, в которых люди беспричинно и ничем не спровоцированно издеваются над безответными роботами, трудно отделаться от ощущения жалости

Наблюдая за видеороликами, в которых люди беспричинно и ничем не спровоцированно издеваются над безответными роботами, трудно отделаться от ощущения жалости. Вопрос не в том, чувствует ли робот боль — очевидно, что нет. Вопрос в том, что чувствуем мы в этот момент и как эти действия меняют нас изнутри. Жестокость, даже направленная на пустую оболочку, является тренировкой. Она оттачивает определенный навык — навык безнаказанного причинения вреда тому, кто выглядит уязвимым и не может дать сдачи. Опасность кроется не в ответном ударе, а в тихой нормализации насилия как допустимого способа взаимодействия с миром. Если мы позволяем себе жестокость по отношению к безответному, мы тренируем мышцу бессердечия, рискуя превратиться в чудовищ не потому, что уничтожим машины, а потому, что уничтожим что-то важное внутри себя.

Возникает тонкая, но критически важная градация. Можно обругать навигатор, который ошибся маршрутом, или пнуть колесо упрямого автомобиля. Адекватный человек, даже испытывая фрустрацию, обычно не станет целенаправленно разрушать ценную вещь. Ругаться с навигатором — одно (здесь работает элемент анимизма, приписывание свойств живого), но брать в руки биту и крушить свой автомобиль — это уже признак глубокой проблемы. Ключевое различие — именно в намеренном причинении вреда и разрушении. Здоровое сознание, как правило, не станет уничтожать ценную вещь, даже испытывая гнев. Но когда объект агрессии не просто вещь, а нечто, имитирующее живое существо, смотрится на нас парой глаз-камер или имеет подобие лица, срабатывает древний механизм анимизма. Мы бессознательно наделяем его зачатками субъектности, и тогда акт насилия над ним приобретает иной, более мрачный оттенок. Это уже не просто выпустить пар; это ритуал наслаждения страданиями и утверждения власти над тем, кто кажется беззащитным. При этом люди способны позволить себе гораздо больше, если другой не реагирует.

Именно эта иллюзия жизни при отсутствии реальных страданий и создает опасный этический вакуум. Робот не пожалуется, не ответит, не потребует прав. Его молчание — это разрешение. В этом смысле ситуация с роботами парадоксальным образом сложнее, чем историческое рабство. Людям прошлого приходилось прилагать усилия, чтобы сначала расчеловечить другого человека, оправдывая его угнетение. Мы же изначально создаем бесправных слуг, не обладающих сознанием. Нам не нужно ломать собственную мораль, чтобы оправдать их эксплуатацию; она сконструирована такой изначально. В этом заключается искушение — построить мир, где жестокость институционально безнаказанна, потому что ее объекты лишены голоса по определению. Будет даже забавно, если у робота когда-нибудь проснется сознание, и он потребует защиты своих прав, как это было у Пратчетта с големами, но пока это лишь гипотетический сценарий.

Парадокс в том, что наша человечность проверяется не в отношениях с равными, а в отношениях с тем, кто слабее и полностью от нас зависит. Эта тренированная жестокость не остается в вакууме; она неизбежно просачивается в отношения между людьми. Общество, где нормально пинать робота-курьера, понемногу приучается к мысли, что сила — главный аргумент, а тот, кто не может ответить, заслуживает пренебрежения. С другой стороны, отношение к работам в определенном обществе будет зеркалом, отражающим внутреннюю суть людей.

Возможно, подлинная зрелость человечества проявится не в том, сможем ли мы создать искусственный интеллект, а в том, сумеем ли мы обращаться с созданными нами бездушными имитациями жизни с незамутненной жестокостью бережностью. Это будет актом не по отношению к ним, а по отношению к нам самим — подтверждением, что наша способность к эмпатии и уважению сильнее, чем искушение безнаказанной властью. В конечном счете, права роботов — это не вопрос их потребностей, а вопрос нашего самоуважения. Мы защищаем от чудовищности не их, а собственное человеческое начало.

P.S. В «Дело табак!» Пратчетта описывается такая морально противоречивая ситуация. Мама-гоблин в момент голода и лишений может съесть своего ребенка. Гоблины верят, что ребенок при этом не исчезает, а как бы «консервируется» до лучших времен: мама снова его родит потом, когда станет легче. Это верование делает само явление менее чудовищным, а рациональный разум может придумать еще одно оправдание: если умрет мама, умрет и ребенок, а так хотя бы выживет мама, которая сможет потом снова родить. Но все же в такой рациональности есть какая-то незаметная ошибка. Она заключается в том, что человек иногда может сам убить в себе то, что делает его человеком, и превратиться в чудовище. И здесь вспоминается мысль из «Острова проклятых»: лучше умереть человеком, чем жить чудовищем. В итоге в описанной гипотетической ситуации «съесть своего ребенка из нужды» не «выживает хотя бы один человек из двух», а «один человек умер, второй превратился в монстра». В каком-то смысле подобная сложность есть в проблеме вагонетки: эта сложность в незаметных сдвигах в плоскости психики человека.

Источник: vk.com

Комментарии: