У технологии распознавания лиц и френологии много общего

Френология – старомодная дама. Это понятие вам скорее всего знакомо по историческим книгам, где оно расположено где-то между кровопусканием и велоципедом. Мы привыкли думать, что оценка человека по размеру и форме черепа — практика, которая осталась глубоко в прошлом. Тем не менее, френология здесь и вновь поднимает свою комковатую голову.

В последние годы алгоритмы машинного обучения дают возможность правительствам и частным компаниям собирать все виды информации о внешнем виде людей. Несколько стартапов сегодня утверждают, что могут использовать искусственный интеллект (ИИ) для помощи в определении личностных качеств кандидатов на работу на основе их лиц. В Китае правительство первым использовало камеры наблюдения для выявления и отслеживания передвижений этнических меньшинств. Между тем некоторые школы используют камеры, которые отслеживают внимание детей во время уроков, засекая особенности движения лица и бровей.

А несколько лет назад исследователи Сяолинь Ву и Си Чжан заявили, что разработали алгоритм идентификации преступников по форме лица, обеспечивающий точность 89,5%. Весьма напоминает идеи 19 века, в частности, работы итальянского криминолога Чезаре Ломброзо, который утверждал, что преступников можно распознать по скошенным, «звериным» лбам и ястребиным носам.  Очевидно, что попытки современных исследователей выделить черты лица, связанные с преступностью, основываются непосредственно на «фотографическом композитном методе», разработанным мастером викторианской эпохи Фрэнсисом Гальтоном, который изучал лица людей с целью выявить признаки, указывающие на такие качества, как здоровье, болезни, привлекательность и преступность.

Многие наблюдатели считают подобные технологии распознавания лиц «буквальной френологией» и связывают их с евгеникой, лженаукой, которая ставит своей целью выявление людей, наиболее приспособленных к размножению.

В некоторых случаях явная цель этих технологий состоит в том, чтобы лишать возможностей тех, кто считается «непригодным». Но когда мы критикуем подобные алгоритмы, «обзывая» их френологией, на какую именно проблему мы пытаемся указать? Мы говорим о несовершенстве методов с научной точки зрения – или ведём рассуждения о моральной стороне вопроса?

У френологии долгая и запутанная история. Моральные и научные стороны её критики всегда была переплетены, хотя их запутанность со временем менялась. В 19 веке критики френологии возражали против того факта, что наука пыталась точно определить местоположение различных психических функций в разных частях мозга — движение, которое рассматривалось как еретическое, поскольку ставило под сомнение христианские идеи о единстве души. Интересно, что попытка раскрыть характер и интеллект человека по размеру и форме его головы не воспринималась как серьезная моральная дилемма. Сегодня, напротив, идея локализации психических функций, вызывает ожесточенные споры по поводу моральной стороны вопроса.

Френология имела свою долю эмпирической критики и в 19 веке. Велись споры о том, какие функции и где находятся, и являются ли измерения черепа надежным способом определения того, что происходит в мозге. Самая влиятельная эмпирическая критика старой френологии, тем не менее, исходила из исследований французского врача Жана Пьера Флуранса, который строил свои доводы на изучении повреждённого мозга кроликов и голубей, из которых он заключил, что психические функции распределены, а не локализованы (эти выводы впоследствии были опровергнуты). Тот факт, что френология была отвергнута по причинам, которые большинство современных наблюдателей больше не принимают, усложняет задачу определения того, на что мы нацеливаемся, когда критикуем данную науку сегодня.

И «старая», и «новая» френология критикуются прежде всего за методологию. В недавнем исследовании преступности, которое проводилось с помощью машинных технологий, данные брали из двух совершенно разных источников: фотографии осужденных и фотографии людей, которые ищут работу. Уже один этот факт может объяснить особенности получившегося в результате алгоритма. В новом предисловии к статье исследователи также признали, что принятие судебных приговоров в качестве синонима склонности к преступлениям было «серьезным упущением». Тем не менее знак равенства между осуждёнными и склонными к преступлениям, по-видимому, считается авторами главным образом эмпирическим недостатком: ведь в исследовании изучались лица лишь представших перед судом, но не тех, кто избежал наказания. Авторы отметили, что были «глубоко сбиты с толку» общественным возмущением в ответ на материал, предназначенный «для чисто академических дискуссий».

Примечательно, что исследователи не комментируют тот факт, что само осуждение может зависеть от восприятия внешности подозреваемого со стороны полицейских, судей, присяжных. Они также не учли ограниченность доступа различных групп к юридическим знаниям, помощи и представительству. В своем ответе на критику авторы не отступают от предположения, что «для того, чтобы считаться преступником, требуется множество ненормальных (внешних) личных черт». По сути, имеется невысказанное предположение о том, что преступность является врожденной характеристикой, а не реакцией на социальные условия, такие как бедность или жестокое обращение. Часть того, что делает набор данных сомнительным по эмпирическим причинам, состоит в том, что тот, кто получает ярлык «преступник», вряд ли нейтрален по отношению к общественным ценностям.

Одно из самых сильных моральных возражений против использования распознавания лиц для выявления преступности заключается в том, что оно стигматизирует людей, которые и так уже достаточно озлоблены. Авторы говорят, что их инструмент не должен использоваться в правоохранительных органах, но приводят только статистические аргументы по поводу, почему его не следует использовать. Они отмечают, что уровень ложноположительных результатов (50 процентов) будет очень высоким, но не обращают внимания на то, что это означает с человеческой точки зрения. За этими «ошибками» будут скрываться люди, лица которых просто похожи на осуждённых прошлого. Учитывая расовые, национальные и другие предрассудки, существующие в системе уголовного правосудия, такие алгоритмы в конечном итоге переоценивают преступность среди маргинализированных сообществ.

Наиболее спорный вопрос, по-видимому, заключается в том, служит ли переосмысление физиогномики «чисто академической дискуссии». Можно было бы возразить на эмпирических основаниях: евгенисты прошлого, такие как Гальтон и Ломброзо, в конечном итоге не смогли выявить черты лица, которые предрасполагали человека к преступности. Это потому, что таких связей нет. Аналогичным образом, психологи, изучающие наследственность интеллекта, такие как Сирил Берт и Филипп Руштон, не смогли установить корреляцию между размером черепа, расой и IQ. Подобного не удалось никому за многие годы.

Проблема с переосмыслением физиогномики заключается не только в её безуспешности. Исследователи, которые продолжают искать холодный синтез также сталкиваются с критикой. В худшем случае они просто тратят свое время. Разница в том, что потенциальный вред исследований холодного синтеза гораздо более ограничен. Напротив, некоторые комментаторы утверждают, что распознавание лиц должно регулироваться так же строго, как и оборот плутония, потому что вред от обоих технологий сопоставим. Тупиковый евгенический проект, который сегодня пытаются воскресить, был запущен с целью поддержки колониальных и классовых структур. И единственное, что он способен измерить — это расизм, присущий этим структурам. Поэтому не стоит оправдывать подобные попытки любопытством.

Однако называть исследование по распознаванию лиц «френологией» без объяснения того, что поставлено на карту, вероятно, не самая эффективная стратегия для критики. Чтобы ученые серьезно относились к своим моральным обязанностям, им необходимо осознавать вред, который может возникнуть в результате их исследований. Надеемся, что более четкое изложение того, что не так с этой работой, окажет большее влияние, чем необоснованная критика.

Кэтрин Стинсон, Aeon

Перевод The Idealist

Источник: tv-den.ru

Комментарии: