Распознавание лиц — почему нейросети легко находят законопослушного гражданина, но пропускают злодеев?

Как нейросеть вас распознает?

Сначала ИИ ищет лицо, а потом определяет, кому оно принадлежит. Самое интересное начинается, когда алгоритмы пытаются установить личность. Представьте, что вы спускаетесь по эскалатору: алгоритмы вас увидели, нашли лицо, избавились от фона, выровняли изображение, сгладили искажения, а дальше перевели ваши черты лица в эмбеддинг. Так называется числовое значение, которое понятно только машинам: у нас свой язык, у них — свой. Все ваши родинки и морщинки — это числа. Алгоритмы сравнивают ваш эмбеддинг с похожими численными векторами в датасете, пока не найдут совпадение. Нашла — вас узнали.

Так ли хорошо работает система?

Раньше результаты компаний были открытыми, и в данные мог заглянуть любой. С развитием технологий (а главное — спросом) количество игроков выросло, а место в рейтинге стало играть роль при выборе вендора. Новички повадились уводить датасеты других компаний домой и обучать сетки на них, а также искусственно улучшать качество без работы над алгоритмом. Теперь тестированием систем занимается суровый NIST — американский национальный институт стандартов и технологий. В 2019 году первой в точности распознавания стала российская компания VisionLabs.

Как технологию распознавания использует правительство?

К чемпионату мира по футболу 2018 года камеры в общественном транспорте апгрейднулись — теперь прикрученные к ним нейросети распознают лица в толпе. Причина — обеспечить безопасность граждан и поймать всех преступников.

Почему мотивация государства под большим вопросом?

Датасет в основном собирают с социальных сетей. Новая аватарка — это данные для нейросети. И тут загвоздка: преступники не спешат заводить профиль в Инстаграме. Часто единственное изображение, доступное для распознавания, — это черно-белый снимок с места преступления. Технология помогает полиции отслеживать каждый шаг обычных граждан, которые не запариваются с конфиденциальностью, а обнаружить настоящего злодея в метро ей не под силу.

Источник: zen.yandex.ru

Комментарии: