Программа Fawkes искажает изображения для защиты от распознавания лиц

Представленная исследователями из США система обмана алгоритмов видеослежки может оказаться самой эффективной на данный момент

Fawkes – программа, разработанная учеными из Чикагского университета на основе предыдущей работы группы исследователей Google. Последние изучали глубокое обучение нейронных сетей. Их доклад за 2014 года показал, что еле заметные искажения изображений делают лица и другие объекты неузнаваемыми для машин. Открытие породило волну исследований, посвященных обходу систем распознавания лиц с помощью состязательных атак (обман нейросетей путем введения нестандартных данных).

Новая программа получила название в честь печально известного английского революционера Гая Фокса (Guy Fawkes), чье лицо изображено на масках членов протестного движения Anonymous. Программа работает следующим образом: она добавляет к изображению небольшое количество пикселей. Эти изменения незаметны для человеческого глаза, а системы распознавания лиц их замечают, но классифицируют неправильно. Замаскированные Fawkes изображения успешно обманывали системы распознавания Amazon, Microsoft и Megvii в 100% тестов.

Fawkes позволяет пользователям «в любое время сделать себе прививку против неавторизованных моделей распознавания лиц без заметного искажения своих фотографий», – говорят создатели программы.

Однако команда разработчиков заявила, что Fawkes – далеко не идеальное решение. У большинства людей есть десятки, если не сотни, собственных фотографий, размещенных в интернете, которые системы распознавания уже могли бы извлечь. По данным исследования, успешность Fawkes падала до 39%, когда обучающий набор алгоритма включал менее 85% замаскированных фотографий для конкретного человека.

Fawkes – уже не первая попытка создать инструмент противодействия распознаванию лиц. В 2018 году группа инженеров и технологов из Гарвардского центра «Интернет и общество» имени Беркмана Кляйна обнародовала EqualAIs — онлайн-инструмент, который использовал аналогичный метод.

Fawkes еще не доступна широкой публике, но если это когда-нибудь случится, то, по мнению экспертов, разработчики систем распознавания лиц довольно быстро найдут ответ на нее. Ведь, как и во многих областях кибербезопасности, facial recognition — это всё-таки игра в кошки-мышки.