Facebook временно отключил нейросеть, определившую чернокожих как «приматов»

Представители Facebook принесли публичные извинения за недавний скандал с системой рекомендаций. Дело в том, что после просмотра видео, где полицейские грубо арестовывают чернокожего мужчину, нейросеть предлагала «продолжить смотреть видео с приматами», что вызвало громкий скандал.

«Это была алгоритмическая ошибка, которая не отражала содержание видео. Мы полностью отключили функцию тематических рекомендаций чтобы выяснить причину и предотвратить повторение. Мы знаем, что наш ИИ несовершенен, и нам еще предстоит продвинуться вперед», — заявили разработчики.

В 2015-м похожий скандал произошел с Google Photo, которые иногда отмечали чернокожих людей как горилл. Компания заявила, что исправила ситуацию, но, как оказалось, разработчики просто отключили определение горилл на фото.

Источник: vk.com

Комментарии: