Почему мы должны запретить технологию распознавания лица

Скальцо представляет откровенное выражение одного из устойчивых, основополагающих принципов Кремниевой долины: распространение новых технологий неизбежно, и попытки остановить или контролировать его глупы. Несмотря на то, что мессианская уверенность, которая характеризовала философствование Кремниевой долины в 90-х и 00-х годах, не оправдалась, религиозная вера в технологическую неизбежность осталась. Ощущение, что мы бессильны арестовать - или в некоторых случаях даже направить - непрерывное распространение технологий в нашу общественную и частную жизнь, как-то даже сильнее, теперь, когда мы увидели негативные последствия такого расширения. В Кремниевой долине ревностный технооптимизм уступил место смиренному, но бессильному технопессимизму, разделяемому как напуганными критиками, которые не могут себе представить бегство, так и хищными циниками, такими как Скальцо, для которых раскрытие неостанавливаемого, наступающего мрачного будущего представляет не что иное, как инвестиционную возможность. «Это неизбежно, что эта цифровая информация будет там», - сказал Скальцо позже создателю «Dilbert» Скотту Адамсу в интервью. Конечно, мы можем попасть в ад - к сожалению, мы ничего не можем с этим поделать!

Или - представим, что мы резко остановились сейчас в развитии технологий - можем ли мы это сделать? Не существует соответствующего фатализма вокруг регулирования (или запрета) технологий, это не компьютерные сети. Например, в большинстве штатов и городов действуют запреты на определенные виды опасного оружия. Или возьмите смертельную субстанцию, такую ??как свинец, которая раньше обсуждалась в незнакомых терминах незаменимости и неизбежности: «Полезно, если не абсолютно необходимо для современной цивилизации», - писал Балтиморский афроамериканец в 1906 году, спустя годы после того, как стало ясно, что свинец смертельно токсичен. Даже спустя десятилетия свинец все еще рекламировался как неизбежная составляющая будущего: «Одна из классических цитат доктора в 1920-х годах заключается в том, что дети будут расти в мире свинца», - сказал недавно CityLab историк Лейф Фредриксон. Неудивительно, что в США потребовались десятилетия дольше, чем в остальном мире, чтобы исключить использование свинцовой краски в помещении. Но, тем не менее, мы запретили это.

Конечно, свинцовая краска не совсем эквивалентна технологии распознавания лиц по ряду причин. Но их объединяет то, что программное обеспечение для наблюдения такого рода, как оно существует и используется прямо сейчас, наносит ощутимый социальный вред. Клэр Гарви из Джорджтаунского юридического центра конфиденциальности и технологий утверждает, что расширение технологии распознавания лиц не только создает очевидный риск для нашего права на неприкосновенность частной жизни, но также и для нашего права на надлежащую правовую процедуру и даже, потенциально, на наши права Первой поправки Конституции свободы слова и свободы собраний, учитывая вероятность того, что полиция или корпоративное использование программного обеспечения для распознавания лиц на собраниях и протестах будет иметь пугающий эффект. Хуже того, сама технология все еще находится в стадии разработки, и часто правоохранительные органы используют ее с ошибочными данными.

Проблема заключается в том, что, как показало нам последнее десятилетие, постфактумное регулирование или наказание являются неэффективным методом противостояния быстрым и сложным технологическим изменениям. Снова и снова мы видим, что все негативные последствия данной технологии, скажем, новостной ленты Facebook, редко ощущаются, не говоря уже о понимании, до тех пор, пока технология не станет достаточно мощной и укоренившейся, и в этот момент компания, ответственная за это, вероятно, уже превратится в какое-то сложное новое изменение.

Вот почему мы должны запретить технологию распознавания лиц. Или, по крайней мере, ввести мораторий на использование программного обеспечения для распознавания лиц правоохранительными органами до тех пор, пока этот вопрос не будет достаточно изучен и обсужден. По той же причине мы должны наложить жесткие ограничения на использование данных о лицах и технологий распознавания лиц в частных компаниях. В конце концов, гораздо сложнее двигаться быстро и ломать устоявшиеся вещи, когда тебе вообще не разрешено двигаться.

Эта позиция - о том, что мы не должны широко внедрять новую технологию, пока ее последствия не будут поняты и ее использование не обдумано и, возможно, вообще никогда не развернем ее, - противоречит течению последних двух десятилетий, но оно получает некоторое признание и импульс. Как ни тревожили детали бизнеса Clearview AI, реакция на их раскрытие со стороны законодателей и правоохранительных органов была обнадеживающей. На прошлой неделе генеральный прокурор штата Нью-Джерси, в котором без его разрешения или ведома использовался Clearview в маркетинговых материалах, запретил полицейским департаментам в штате использовать приложение. В понедельник сенатор от штата Нью-Йорк Брэд Хойлман внес на рассмотрение законопроект, запрещающий правоохранительным органам использовать технологию распознавания лиц в штате Нью-Йорк.

При этом Нью-Джерси и Нью-Йорк присоединяются к горстке других штатов и муниципалитетов, которые вводят или рассматривают запреты на определенные виды и использование технологии распознавания лиц. Калифорния, Нью-Гемпшир и Орегон все в настоящее время запрещают использование технологии распознавания лиц в полицейских нагрудных видеорегистраторах. В прошлом году в Окленде и Сан-Франциско были введены запреты на использование распознавания лиц городскими агентствами, включая полицейские управления. В Массачусетсе Бруклин и Сомервилль оба проголосовали за запрет на использование правительством технологии распознавания лиц, а сенатор штата Бруклин предложил аналогичный запрет на уровне штата. По сообщениям, Европейский союз рассматривает пятилетний мораторий на использование распознавания лиц, хотя эти планы, очевидно, были свернуты. А Берни Сандерс, единственный среди кандидатов от Демократической партии на пост президента, предложил полный запрет на использование технологии распознавания лиц федеральными правоохранительными органами.

Такие запреты, по общему признанию, несовершенны, отчасти потому, что они являются первопроходцами и обязательно являются неполным покрытием, поскольку они предназначены только для определенных целей, таких как в нагрудных видеорегистраторах, государственных организациях и учреждениях. Один город, запрещающий правоохранительным органам использовать распознавание лиц, не обязательно помешает департаменту шерифа создать систему наблюдения - и при этом не обязательно помешает частному учреждению в городе принять собственную программу распознавания лиц. Пока что запреты не касаются сторонних компаний, чьи данные используются алгоритмами распознавания лиц. (Среди наиболее важных аспектов Clearview является то, что компания создала свою базу данных с 3 миллиардами изображений, более или менее законно просматривая публичные изображения в социальных сетях и на сайтах потокового видео, таких как Facebook.)

Хорошо выполненный запрет потребует обдумывания и осмотрительности. (В Сан-Франциско первоначальный запрет необходимо было изменить, чтобы позволить сотрудникам использовать FaceID на своих выпущенных правительством iPhone - функция, которая, похоже, не была должным образом рассмотрена заранее.) По словам Гарви, надежное регулирование распознавания лиц позволит необходимо определить, что именно означает «распознавание лиц» - вероятностное сопоставление изображений лиц? Анонимный анализ настроений? - и любое текущее использование, которое подпадает под это определение. Необходимо также учитывать глобальный характер индустрии технологий: «Большинство алгоритмов распознавания лиц, используемых правоохранительными органами США, не созданы компаниями США. Так мы запрещаем продажу этой технологии в пределах границ США?»- спрашивает Гарви.

«А если я поеду за границу и буду пойман системой распознавания лиц в Берлине, это нарушение?» Может быть, это то, что Скальцо действительно подразумевает под утверждением «вы не можете запретить технологии» - нам, как людям не хватает политической воли и глобальных возможностей для полного предотвращения использования или развития ее где-либо в мире.

Тем не менее, хотя они могут быть неполными и несовершенными, такие запреты представляют собой возвращение идеи, в значительной степени отвергнутой во время завоевательного расширения Кремниевой долины: технологические изменения возможны, управляемы и даже предотвратимы - не только влиятельными руководителями, но и демократически избранными законодательными органами и исполнительными органами. ,Как граждане 21-го века и бенефициары компьютерной революции, это звучит немного кощунственно, но: мы должны запретить больше технологий.

https://nymag.com/intelligencer/2020/01/why-we-should-ban-facial-recognition-technology.html 

Источник: zen.yandex.ru

Комментарии: