Система распознавания голоса от АНБ ставит сложные этические вопросы перед Google и Amazon

Журналистские расследования и официальные доклады не дают ответа на вопрос о том, делают ли IT-гиганты достаточно, чтобы сдержать массовую слежку

В своем материале для сайта The Intercept журналистка Ава Кофман раскрыла подробную историю систем распознавания голоса, разработка которых ведется АНБ еще с 2004 года.

Одна из таких систем, известная как Voice RT, способна идентифицировать людей по записям их голоса и делать простые расшифровки. Согласно засекреченным документам, эта система была развернута в 2009 году для отслеживания начальника штаба армии Пакистана, хотя официальные лица и выражали тогда озабоченность относительно того, что система опиралась на недостаточное количество записей голосов для построения надежной модели. Эта же система использовалась в 2007 году для сканирования телефонных переговоров ста членов иранской делегации во время визита президента страны Махмуда Ахмадинежада в Нью-Йорк.

Использование Voice RT может иметь весьма серьезные последствия для конфиденциальности граждан. У АНБ всегда был широкий доступ к американской телефонной инфраструктуре. Сейчас же появились специальные голосовые помощники вроде Amazon Echo и Google Home, которые загружают большое количество голосовых данных в облачные хранилища, где их может перехватить АНБ.

Уже были случаи, когда правоохранительные органы запрашивали данные голосовых помощников для расследования преступлений. Например, в случае прошлогоднего убийства в Бентовиле полиция использовала голосовые записи и расшифровки системы Amazone Echo, надеясь, что они запечатлели информацию, которая могла служить важной уликой. Если возводить все в абсолют, можно ожидать, что увеличение частоты таких запросов несет серьезную угрозу неприкосновенности частной жизни людей. Однако в действительности устройства вроде Echo и Google Home пока собирают голосовые данные только после того, как прозвучит специальное кодовое слово – “Okay Google” или “Alexa”. Так что полиция может получить главным образом только целенаправленные команды, которые пользователь давал для управления системами своего дома.

Исследователи в области безопасности пока не смогли обойти это ограничение дистанционно, не имея прямого физического доступа к устройству. Однако инструментарий АНБ способен анализировать голос человека, что делает такое ограничение бессмысленным. Voice RT вполне достаточно тех данных, которые были отправлены на серверы Google и Amazon, для составления точного голосового профиля человека. Поскольку технологии автоматического преобразования речи в текст пока несовершенны, обе компании хранят “сырые” голосовые данные в облачных хранилищах для того, чтобы собирать информацию об ошибках транскрибирования. Такое большое количество данных наверняка будет очень притягательно для АНБ.

Для получения голосовых данных полиции нужен ордер, как и в случае доступа к электронной почте или файлам в Dropbox. Однако АНБ может обойтись и без ордера. Безусловно, сбор данных может осуществляться только после судебного решения, но эта процедура может и не понадобиться. Теоретически АНБ, может попросить у компаний просканировать их системы, чтобы способствовать поимке опасного террориста. Это же может касаться случаев жестокого обращения с детьми или нарушений авторских прав. Если компании согласятся, судебный ордер попросту не потребуется.

“Похожая проблема возникла с хранением биометрических данных. Хранящие биометрию платформы уязвимы перед запросами на получение доступа к ней со стороны уполномоченных государственных органов. Я думаю, что правительство могло бы получить заказ на техническую помощь для облегчения сканирования и с опорой на Акт о негласном наблюдении в целях внешней разведки (FISA) разработать соответствующий инструмент.”

Комментарий Руководителя исследовательской группы по вопросам конфиденциальности в Центре интернета и общества при Стэндфордском университете Альберта Гидари

У нас до сих пор нет доказательств того, что компании удовлетворяют полученные от спецслужб запросы. Однако такие запросы обычно приходят под постановлением о неразглашении информации, поэтому у широкой общественности нет возможности узнать точное положение вещей.

И в целом в отношении собранных голосовыми помощниками данных нам сильно недостает прозрачности. Amazon ведет себя очень уклончиво при описании в своих докладах письменных запросов со стороны спецслужб, касающихся данных Amazon Echo. Google не выделяет данные, собранные Google Home, в отдельную категорию, рассматривая их как часть общих пользовательских данных.

Наконец, нет никакой технической причины для хранения каждого голосового запроса. Компании могли бы привязать их к анонимным идентификаторам или хотя бы собирать лишь текстовую информацию, преобразованную из голосовых данных на самих устройствах.

Важно помнить, что Google Echo и Microsoft Home создавались не для облегчения работы спецслужб. Google и Amazon разрабатывали полезных помощников по дому, не думая о возможном их использовании для скрытого наблюдения. Также они не задумывались о гарантиях защиты голосовых данных пользователей. Снова, как и в случаях с таргетированной рекламой и облачными хостингами, инновационные технологии заключают в себе значительные риски для конфиденциальности.