Слежка за частной жизнью целых наций незаметно становится нормой

Системы слежки и наблюдения будут внедряться повсеместно под видом оборудования для умных городов. ФБР США уже располагает обширной базой данных с фотографиями 117 млн граждан. Китай вообще перестал стесняться и собирает не только фотографии, но и ДНК своих жителей. Сколько подобных случаев пока еще просто скрыто под грифом секретности, можно только догадываться. И если не забывать, что данные — это «новая нефть», станет очевидным, что слежка за частной жизнью целых наций обещает многомиллиардные прибыли тем, кто сможет этим правильно воспользоваться.

Око Саурона — это спутник

Уже не первое десятилетие жители больших городов попадают на записи камер видеонаблюдения, которые фиксируют почти каждый шаг. Но до сегодняшнего дня мы знали, что эту видеозапись будут просматривать только в том случае, если случится что-то противозаконное. Но с появлением ИИ, который способен проанализировать каждое видео, распознать на нем каждого человека, связать его изображение с аккаунтами в социальных сетях и хранить эту информацию бесконечно долго, идея о защищенности частной жизни попадает под сомнение.

В теории, если не пользоваться общественным транспортом, не бывать в центре города и не ходить в супермаркеты, от камер можно скрыться даже жителю мегаполиса. А уж если уехать из города, то и подавно: в маленьких поселках все камеры местные жители знают наперечет, а в особенно глухих местах даже нет интернета, чтобы данные с этих камер куда-то передать.

Но на практике скрыться от камер уже сегодня гораздо сложнее, чем мы думаем. Недавно на рынке появилась камера на основе ИИ под названием DNNCam, которая может работать без интернета и практически «не убиваема», а также миниатюрная камера Caply размером с флешку.

Вполне вероятно, что нас ждет будущее по сценарию фильма «Сфера», в котором повсюду установлены мини-камеры, которые можно просто приклеить к дереву или стене. Характерно, что кульминацией фильма стал эпизод, когда во время очередной презентации пользователи «Сферы» сначала находят преступницу за 10 минут, но затем, когда они пытаются найти обычного человека без аккаунта в социальных сетях, он погибает в автокатастрофе, пытаясь скрыться от камер, установленных на дронах.

Но камеры, установленные повсюду, представляют собой только часть проблемы. Серьезнее то, что уже появился гораздо более простой способ получать изображение с улиц: высокоточные спутниковые данные. Например, спутники компании DigitalGlobe могут фотографировать объекты на поверхности Земли в мельчайших деталях. Система способна разглядеть даже книгу на столе.

Что хуже, в прошлом году DigitalGlobe заключила партнерское соглашение с Amazon, подразделением ЦРУ CosmiQ Works и Nvidia. Все они вложат громадные средства, чтобы обучить ИИ распознавать объекты и лица на спутниковых снимках. Мрачный прогноз «Сферы» на фоне этого — детская страшилка.

Обмани меня

Казалось бы, раз вопрос стоит настолько остро, почему бы жителям мегаполисов просто не носить головные уборы, солнечные очки или медицинские маски, как в Азии? Закрывают же автолюбители свои номера от камер, снимающих нарушения ПДД. Но все не так просто. Благодаря новым технологиям человека можно опознать и другими способами.

Например, ученые из Университета Центральной Флориды и Университета Карнеги-Меллон разработали технологию, которая может идентифицировать человека не по лицу целиком, а по его отдельным частям — глазам, носу или рту. Разработка ученых решила проблему «закрытого лица», когда для распознавания есть помехи, например, если лицо закрыто рукой, что было особенно сложным, так как рука и лицо похожи по цвету и текстуре. А ученые из Гонконгского баптистского университета научили ИИ распознавать человека по движениям губ.

Но даже если человеку удастся полностью скрыть лицо от камер, система все равно его распознает. В Китае создали метод, способный идентифицировать человека по походке с 50 метров за долю секунды. Благодаря технологии анализа в реальном времени обнаружить человека можно даже в большой толпе.

Но и это еще не все. Стартап Evolv Technology разработал микроволновые сканеры с ИИ, которые могут досматривать людей без их ведома, пока они просто проходят мимо. Теоретически разработка предназначена для аэропортов, чтобы экономить время пассажиров, но нет никакой гарантии, что ее не будут использовать для контроля за гражданами.

Слишком умный дом

Угрозу конфиденциальности несут не только привычные меры наблюдения в общественных местах. Благодаря «удобным» технологиям сбываются самые худшие опасения в духе Замятина и Оруэлла о тотальном контроле над людьми прямо у них дома. Умные звонки и умные замки расскажут, кто и когда посещал квартиру, IoT-счетчики выдадут количество израсходованных воды и электричества, а виртуальные помощники сохранят на своих серверах улики.

Например, умная камера Kuna Systems с помощью ИИ непрерывно оценивает все, что находится в ее поле зрения. Устройство умеет распознавать подозрительное поведение и призвано защитить владельца от краж. Однако это работает и в обратную сторону: устройство способно шпионить за хозяином. В случае, если он сам совершает преступление, умная камера не будет молчать и также заявит в полицию. Создатели говорят, что это будет использоваться только в случае особо тяжких преступлений. Но что если система будет отслеживать и менее ясные случаи, например, «непатриотичное» или «потенциально опасное» поведение? Предмет контроля не так важен: важен сам факт возможности подобной слежки.

Многие современные устройства могут выступать в качестве свидетелей, причем совершенно случайно. Это произошло с колонкой Amazon Echo, которая находилась в доме предполагаемого преступника. Полиция сочла аудиоданные на устройстве потенциальными уликами. Также в ночь предполагаемого убийства в доме умные счетчики воды зарегистрировали расход более 500 литров. Предполагается, что так преступник пытался отмыть следы крови и замести следы преступления.

Марк Макардл, технический директор канадской компании eSentire говорит о том, что людям придется смириться с угрозой потери конфиденциальности, которую несут с собой устройства умного дома. Шпионами становятся смартфоны, финтес-трекеры и даже кардиостимуляторы.

На службе у государства

Правоохранительные органы все чаще стремятся использовать цифровые данные для предотвращения преступлений или терроризма. Немецкий Бундестаг недавно принял закон, который предоставляет правоохранительным органам возможность взламывать любые устройства, принадлежащие подозреваемым в совершении преступления, причем не только связанного с терроризмом. По данным Deutsche Welle, немецкие правоохранительные органы уже закупили ПО, необходимое для взлома устройств на iOS, Android и BlackBerry.

Департамент транспорта Нью-Йорка объявил, что он совершил более четырех тысяч арестов, используя технологию распознавания лиц. Вместо сканирования полицейских кадров, алгоритм сравнивает фотографии на водительских правах с изображениями из баз данных, что усложняет подделку личности мошенниками. Полиция вскоре сможет получить доступ к изображениям половины взрослых американцев через базы данных, вроде DMV.

Компания Axon, крупнейший поставщик нательных камер для полиции США, также планирует внедрять ИИ, в частности, для автоматизации полицейских отчетов. А Motorola, еще один крупный поставщик видеокамер, предлагает ИИ для идентификации лиц во время поиска пропавших детей.

Черное зеркало

Главы государств обещают, что большие данные и ИИ будут использоваться только для защиты от правонарушений, а тотальная слежка никогда не будет использована в ущерб личной свободе граждан.

Однако в Китае тестируют систему социальных кредитов, в которой гражданам присуждают или снимают баллы в зависимости от их поступков. За нарушение ПДД и жалобы в интернете рейтинг снижают, за помощь соседям и следование плану партии — прибавляют. Как сообщает официальный сайт рейтинговой системы, с помощью анализа больших данных власти учитывают 160 тыс. различных параметров. Сведения собирают по разным государственным ведомствам, а также через доносы. Доносы, кстати, поощряются баллами, а в городе даже есть штат наблюдателей, которые следят за людьми. Кроме доносов и данных государственных и муниципальных структур, сведения будут поставлять восемь частных компаний. Среди них такие гиганты, как Alibaba и Tencent.

Нарушителей порядка будут наказывать и ограничивать, в том числе и в бытовых правах. Так, обладатели низкого рейтинга не смогут пользоваться спальными вагонами поездов и летать первым классом, а также снимать номера в дорогих отелях, отдавать детей в элитные школы и ездить за границу. На роль главного судьи Госсовет назначил Коммунистическую партию КНР.

Ситуация напоминает первую серию последнего сезона «Черного зеркала», в которой жизнь человека полностью подчиняется его рейтингу в соцсети. Наличие популярных друзей, дружелюбие и общительность открывают новые двери, а неудачи в социальной жизни перекрывают все возможности. Разница только в том, что герои сериала точно знают, за что и почему им присудили или сняли баллы. В Китае все не так однозначно, потому что точные правила проставления рейтингов нигде не зафиксированы.

Китай в стремлении к тотальному контролю и цензуре пошел еще дальше: он намерен создать самую крупную в мире базу биометрических данных граждан. Сбор информации давно перестал быть добровольным. По данным Human Rights Watch, в Синьцзян-Уйгурском автономном районе образцы ДНК, отпечатки пальцев и сканы радужки у жителей собирают в принудительном порядке. Процедуру проводят как часть бесплатного медобследования, после чего сведения передают полиции. Наличие генетических данных позволяет отслеживать не только самого человека, но и его родственников. Полиция заявила, что отслеживает «фокусные группы подозрительных граждан». К этой категории, как выяснила HRW, в первую очередь попадают мигранты, диссиденты и уйгуры-мусульмане.

Понятие приватности в этих условиях становится относительным — скрыться от постоянной слежки практически невозможно, а с внедрением искусственного интеллекта людям будет все сложнее оставаться анонимными. Интересная жизнь в этом смысле у нас всех только начинается.