За нарушение приватности данных Федеральная торговая комиссия США приказала компании Paravision уничтожить модель искусственного интеллекта, обучавшуюся на основе украденных фотографий. В ответ на это, Paravision создала должность консультанта по вопросам этики ИИ и опубликовала заявление, в котором описывает этические принципы создания этой технологии.
В 2019 году у NBC вышло расследование о мобильном приложении Ever. Оказалось, что фото пользователей, загруженные в Ever, использовались компанией Paravision для обучения искусственного интеллекта, без согласия самих пользователей. Фотографии друзей и родственников людей, которые они считали личными, на самом деле использовались для обучения алгоритмов, а те, в свою очередь, продавались правоохранительным органам и американским военным.
Два года спустя Федеральная торговая комиссия США осудила Paravision. Согласно решению комиссии, опубликованному 11 января, Paravision будет обязана удалить все фотографии, которые она тайно загрузила у пользователей, а также все алгоритмы, которые она создала с использованием этих данных.
В ответ на это, компания Paravision создала должность главного консультанта по этике искусственного интеллекта и опубликовала набор «Принципов искусственного интеллекта», которые будут служить этическим руководством для дальнейшего развития технологии распознавания лиц.
У новой руководительницы — особые полномочия. Элизабет Адамс (Elizabeth A. Adams) в настоящее время — научная сотрудница в Центре сравнительных исследований в области расы и этноса Стэнфордского университета (Standford University), а раньше она работала в качестве назначенного члена в Консультативном комитете по вопросам расового равенства в Миннеаполисе. Она также выступает в качестве консультантки в рамках круглого стола Организации Объединенных Наций по вопросам искусственного интеллекта.
Также Paravision опубликовала список принципов, которыми обещает руководствоваться при создании своей продукции. Они основаны на двух основных идеях: что технология ИИ должна обучаться согласно этике, принятой компанией, и что она должна продаваться «добросовестно». Это означает, например, что система распознавания лиц должна быть подготовлена по этнически разнообразным наборам данных. А ещё компания обещает продавать только модели искусственного интеллекта, отвечающие высоким стандартам качества, и не сотрудничать со странами, признанными нарушителями прав человека Государственным департаментом США и правозащитными организациями. Она также планирует ограничить распространение технологий среди правоохранительных, оборонных и разведывательных органов, при этом Paravision конкретно обязуется не допускать использования своей технологии в смертоносных автономных системах оружия (LAWS).
Адамс, со своей стороны, скорее всего, будет играть важную роль в соблюдении Paravision заявленных этических норм.
В период растущей обеспокоенности общества вопросами конфиденциальности и этических последствий технологии распознавания лиц компания Paravision первой предприняла какие-то действия в решении этих вопросов. Это делает ещё более явным её лидерство в области технологий визуального распознавания. Напомним, что в прошлом году продукция компании показала высокие результаты в тестах NIST по распознаванию лиц.
Можно только догадываться, задумалась ли бы компания об этичности своих действий без санкций Федеральной комиссии и сколько ещё подобных случаев остались нам неизвестными.
Paravision лишь одна из многих компаний, разрабатывающих ИИ для распознавания лиц. Такие технологии уже используются режимами разной степени тоталитарности для контроля за гражданами, и её развитие, а также её роль в обществе в будущем зависят от того, в чьи руки она попадёт, как будет регулироваться и как общество сможет влиять на это регулирование.