Языковые модели выдают нам не результаты своих индивидуальных размышлений, создаваемых в рамках построенной на основе собственного опыта картины мира, - а наши же коллективные представления

Языковые модели выдают нам не результаты своих индивидуальных размышлений, создаваемых в рамках построенной на основе собственного опыта картины мира, - а наши же коллективные представления. В их ответах те же смыслы, слепые пятна, общепринятые заблуждения и ценности, что и в материалах, на которых они учились, - это представления и ценности тех обществ, которые их создают. То есть, западные? Не совсем. Прочитал тут в блоге Ильи Плеханова про интересное исследование:

«Ученые из University of North Texas изучали, как искусственный интеллект принимает финансовые решения, и сравнивали его с тем, как это делают обычные люди по всему миру. Они задавали одинаковые вопросы про деньги и финансовые решения семи разным ИИ-моделям (включая ChatGPT разных версий, Gemini и другие) и сравнивали их ответы с ответами реальных людей из 53 стран.

Оказалось, ответы LLM больше всего похожи на ответы жителей Танзании (в первую очередь) и Кении. Значительная доля человеческой рабочей силы, используемой для обучения моделей с подкреплением и модерации контента, набирается в Африке. Танзания, как и Кения, предлагает преимущества в плане рабочей силы: владение английским языком и дешевизна. Кенийских аннотаторов нанимают менее чем за 2 доллара в час для маркировки текстов для OpenAI.

Поскольку эти восточноафриканские аннотаторы поставляют сигналы вознаграждения, которые формируют результаты LLM, вполне вероятно, что лингвистический стиль и ценностные суждения, встроенные в модели, естественным образом напоминают танзанийский (и кенийский) дискурс больше, чем дискурс других национальных групп. И исследование про финансовые решения это показало.

Специалисты из Восточной Африки напрямую направляют поведение LLM. С чем вас всех, пользователи, и поздравляем».

Источник: vk.com

Комментарии: