Microsoft запрещает полиции США использовать ИИ для распознавания лиц

Microsoft ужесточила правила использования своего сервиса Azure OpenAI Service, запретив полицейским департаментам США использовать генеративный ИИ для распознавания лиц.

Изменения в условиях обслуживания, введённые в среду, теперь чётко запрещают использование Azure OpenAI Service для распознавания лиц полицией, включая интеграцию с текущими и возможно будущими моделями анализа изображений от OpenAI.

Новое условие также касается полиции во всём мире, особенно запрещая использование технологий распознавания лиц в режиме реального времени на мобильных камерах, таких как камеры на теле или на приборных панелях автомобилей, для идентификации людей в неконтролируемых условиях.

Это изменение произошло через неделю после того, как компания Axon, производитель технических и военных средств для правоохранительных органов, объявила о новом продукте, который использует модель генеративного текста GPT-4 от OpenAI для обобщения аудио с камер на теле.

Критики указали на возможные проблемы, такие как создание недостоверной информации моделями и расовые предвзятости в данных обучения, что особенно тревожно, учитывая большую вероятность остановок полицией темнокожих по сравнению с белыми.

Неясно, использовал ли Axon GPT-4 через Azure OpenAI Service и были ли изменения условий службы реакцией на запуск продукта Axon. Ранее OpenAI уже ограничивал использование своих моделей для распознавания лиц через свои API.

Источник: vk.com

Комментарии: