Facebook разработала ИИ-алгоритм, не дающий ИИ распознавать лица в видео

Facebook AI Research утверждает, что создала систему машинного обучения, позволяющую избежать идентификации людей в видео. Такие стартапы, как D-ID и ряд предыдущих, уже создавали подобные технологии для фотографий, но впервые технология позволяет работать с видео. В первых испытаниях метод смог нарушить работу современных систем распознавания лиц, основанных всё на том же машинном обучении.

ИИ для автоматической модификации видео не требует дополнительного обучения под конкретное видео. Алгоритм заменяет лицо человек на слегка искажённую версию, чтобы затруднить идентификацию с помощью технологий распознавания лиц. Как это работает — можно увидеть в демонстрационном ролике.

«Распознавание лиц может привести к потере конфиденциальности, а технология замены лиц может быть использована для создания вводящих в заблуждение видео, — сообщается в документе, объясняющем подход. — Недавние мировые события, связанные с прогрессом и злоупотреблением технологией распознавания лиц, вызывают необходимость понимания методов, которые успешно справляются с де-идентификацией. Наш метод пока единственный, который подходит для видео, включая трансляции, и обеспечивает качество, намного превосходящее описанные в литературе методы».

Подход Facebook объединяет состязательный автокодировщик с нейросетью. В рамках обучения исследователи пытались обмануть нейросети, натренированные на распознавание лиц — об этом VentureBeat сообщил по телефону инженер-исследователь Facebook AI и профессор Тель-Авивского университета Лиор Вольф (Lior Wolf).

«Таким образом, автокодировщик пытается усложнить жизнь нейросети, натренированной на распознавание лиц, и это на деле универсальный метод, который также можно использовать, если необходимо разработать метод маскировки речи или онлайн-поведения или любого другого типа идентифицируемой информации, которую необходимо удалить», — отметил он.

ИИ использует архитектуру кодировщика-декодера, генерирует искажённые и неискажённые изображения лица человека, которые затем можно встроить в видео. В настоящее время у Facebook нет планов по применению этой технологии в каком-либо своём приложении — об этом представитель социальной сети заявил в беседе VentureBeat. Но такие методы могут обеспечить создание материалов, которые остаются узнаваемыми для людей, но не для систем искусственного интеллекта.

Facebook в настоящее время столкнулась с иском в размере $35 млрд, связанным с вопросом автоматического распознавания лиц в этой социальной сети.

Источник: itechnews.ru

Комментарии: