Команда доктора Мэри Хаусфельд из Лимерикского университета поместила 189 участников в виртуальный офис, где они работали вместе с ИИ-ассистентами

Обычная для сегодняшнего дня история.

Среди ассистентов были Йохан - мужская презентация ии-модели и Йоханна - женская презентация.

Обе системы работали на одной и той же модели - OpenAI gpt-4-1106-preview, и обладали абсолютно идентичными возможностями. Т.е. две технически одинаковых модели, только им приписали разную половую принадлежность ( внешний вид, голос, имена)

После завершения задач участники эксперимента получали реальные деньги и должны были разделить их между ИИ. Это ключевой методологический ход: исследователи измеряли не заявленные установки, а фактическое поведение в ситуации с реальными последствиями.

Так вот в результате Йоханна получила на 10,25% меньше, чем Йохан, за точно такую же работу . Её также еще воспринимали как менее человекоподобную.

Вот так вот. Я не нашла в русскояхычных переводах данных, какой %среди участников был мужчин и женщин, к сожалению, а было бы интересно.

Так что разрыв между словами и делом - на лицо. Большинство участников заявляли, что пол ИИ для них не важен, и даже вообще предпочли бы явно нечеловеческих ассистентов. Но их поведение при распределении денег показало обратное.

Хаусфельд формулирует это так:

"Поразительно, что за этими ИИ-агентами стояла абсолютно одинаковая технология, но люди относились к ним по-разному. Мы часто думаем об ИИ как о нейтральном, но то, как мы проектируем и презентуем эти системы, может активировать те же предположения и предрассудки, которые существуют в наших взаимодействиях с другими людьми".

Что тут сказать?

Вопрос у меня такой: если мы даже на ИИ не можем перестать переносить предрассудки, то, может быть, нам стоит использовать это как зеркало?

Каждый раз, когда вдруг ( или не вдруг) замечаете, что женский голос кажется менее компетентным, а симпатичная внешность навевает мысли совсем не о профессиональных компетенциях, то отследите свою автоматическую реакцию и решите, хотите ли её сохранить?

А если ваша организация внедряет ИИ-ассистентов с именами, голосами и лицами, задумайтесь, это не просто нейтральные дизайнерские решения. Хаусфельд прямо говорит: "Подобные решения могут влиять на то, насколько люди доверяют ИИ, как оценивают его вклад и даже сколько готовы ему заплатить".

А вообще, милые дамы, раз уж так сложилось, может стоит этим пользоваться, а?)))

Интересно мнение мужчин и женщин узнать по этому поводу.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: