Ученые уличили Google Translate в предрассудках

По каким бы новейшим алгоритмам не действовал искусственный интеллект, иногда вместе с полезными навыками пользователей он приобретает особенности их поведения. Нейронные сети, позволяющие Google Translate совершенствовать машинный перевод по мере его использования, также помогли системе усвоить разнообразные предрассудки своей аудитории.

Как заявили сотрудники Принстонского университета в США, искусственный интеллект может легко научиться стереотипному мышлению — это как раз предсказуемо. «Мы заметили, что алгоритмы автоматического перевода Google Translate могут перенимать у людей гендерные или расовые предубеждения, а также прочие предрассудки», — пояснили ученые.

Как сообщает издание Science, для того, чтобы проверить свои предположения, аналитики подготовили особый ассоциативный тест. После того, как алгоритм Google Translate прошел тестирование, выяснилось, что он ассоциирует слова «свадьба» или «родители» с женскими именами, а мужские с словами «заработная плата» или «профессиональный».

Комментарии: