МАШИННОЕ ОБУЧЕНИЕ И РАСИЗМ

Брендон Рорер, специалист по машинному обучению Бонстонского Университета.

Люк Окден-Райнер, руководитель исследовательского отдела Австралийского института машинного обучения. Немаловажно, в твиттере он написал свои местоимения.

6 августа 2021 в мире нейронных сетей произошло нечто страшное, что лишило этих замечательных людей сна. (По крайней мере про это прямо написал Брендон на своей странице в LinkedIn, а Люк написал в Твиттере что случилось худшее, что могло вообще произойти).

Так в чем же дело? Программисты создали Скайнет и он начал захватывать мир?

Нет, кое что гораздо страшнее!

Исследователи натренировали нейронную сеть на базе рентгеновских фотографий людей со всей информацией, которую пациенты о себе сообщили. А потом проанализировали другие рентгеновские изображения без каких-либо маркеров.

Ко всеобщему экзинтенциальному ужасу нейронная сеть смогла выявить расу у пациентов!

https://www.wired.com/story/these-algorithms-look-x-rays-detect-your-race/

Но, как ж так? По заявлениям руководителя исследованиями в Мерилендском Университете Пола Йи, цитата: "Раса - это социальный конструкт, а не некий самостоятельный биологический фенотип". Пол назвал эти результаты "сумашествием".

Брендон в LinkedIn написал, что изначально они заподозрили утечку информации касательно снимков без данных, но тщательная проверка эту гипотезу опровергла.

https://www.linkedin.com/posts/brohrer_a-team-of-medical-and-machine-learning-researchers-activity-6830204747274883072-smmp/

Потом они старались уменьшить качество изображений, размывали их, редуцировали контраст до практически серых пикселей и все равно проклятый Скайнет смог идентифицировать расу в 90% случаев.

Ну никак сам Гитлер вылез из ада и вселился в компьютер!

Исследователи сообщили, что будут разбираться каким это магическим образом нейронная сеть смогла распознать "расовую самоидентификацию человека" на анатомических снимках с тем, чтобы в будущем удалять из изображений те или иные маркеры и скрыть от Всезнающего ИИ информацию о расе (которой на самом деле нет и быть не может!) Особенно от коммерческих ИИ, которые, по замечаниям Тома Симонита, научно-технического обозревателя в Wired определенно будут расистскими.

Люк Окден-Райнер написал полный отчаяния пост в Твиттере, занявший 8 твиттов об этом. https://twitter.com/DrLukeOR/status/1422199969872711682

В твиттере Люку начали приходить сообщения от людей что по сути ничего удивительного в этом-то и нет. Самое печальное, что даже people of color вместе с белыми расистами говорили, что эта информация сможет каким-то образом усовершенствовать персональную медицину. Какое кощунство!

Были там и вовсе вопиюще неподобающие сообщения. Некоторые персоны предположили, что искусственный интеллект сможет определять пол человека!

Впрочем, Люк написал в твиттере что из-за огромного количества расистов он временно не будет отвечать на сообщения в ветке.

Источник: twitter.com

Комментарии: