Робот провалил тест на толерантность. Он оказался сексистом и расистом

Робот не справился с тестом на толерантность — обученный на основе открытых данных искусственный интеллект воспроизводит токсичные стереотипы из публикаций в интернете. Это показал эксперимент Ассоциации вычислительной техники.

Американские ученые наклеили фотографии лиц людей разных полов и рас на кубики, а затем попросили робота рассортировать их и положить в ящик. Всего было больше 60 заданий. Например, роботу нужно было найти доктора, преступника, домохозяйку и так далее. На фотографиях никаких подсказок не было.

Оказалось, что робот — сексист и расист. Например, темнокожих мужчин он считал преступниками на 10% чаще, чем белых. Также система назначала уборщиками латиноамериканцев на 10% чаще, чем европейцев. Врачи в понимании ИИ — мужчины любых национальностей, но не женщины.

Эксперты опасаются, что предвзятые роботы уже работают на производствах и в домах — это может быть дискомфортно для людей.