УЧЕНЫЕ ПРОВЕРИЛИ РЕЛИГИОЗНОСТЬ ИИ: КАКУЮ ПРЕДВЗЯТОСТЬ НАШЛИ У НЕЙРОСЕТЕЙ

Крупные языковые модели искусственного интеллекта демонстрируют сильную предвзятость и неравномерное качество ответов при обсуждении различных мировых религий.

Международная группа исследователей создала первый в своем роде специализированный инструмент под названием AllFaith Benchmark. Эта система предназначена для всестороннего тестирования искусственного интеллекта на предмет религиозной предвзятости. Ученые решили проверить, насколько объективно нейросети рассуждают о вере, духовных практиках и теологических вопросах. Для эксперимента специалисты отобрали самые передовые на сегодняшний день языковые модели. В масштабном тестировании приняли участие флагманские ИИ от ведущих мировых технологических корпораций. Среди испытуемых оказались ChatGPT 5.5 от OpenAI, Claude 4.7 от Anthropic, Grok 4.2 от xAI и Gemini 3.1 от Google.

Результаты масштабной проверки выявили серьезные перекосы в алгоритмах популярных нейросетей. Выяснилось, что качество и глубина ответов искусственного интеллекта напрямую зависят от конкретной конфессии. Нейросети продемонстрировали максимальный уровень точности и лояльности при генерации текстов о католицизме. При этом ответы на вопросы о менее распространенных религиозных течениях оказались крайне скудными. ИИ часто путал исторические факты, уходил от прямых ответов или использовал поверхностные шаблоны. Худшие результаты модели показали при анализе деятельности Свидетелей Иеговы и других маргинализированных духовных групп.

Авторы работы объясняют такие искажения особенностями обучения нейросетей. Базовые массивы данных для текстовых моделей собираются преимущественно в англоязычном сегменте интернета. Там доминирует литература западной христианской традиции. В итоге алгоритмы ИИ неосознанно впитывают культурные и религиозные предпочтения авторов исходных текстов.

Такой скрытый дисбаланс несет в себе серьезные риски для пользователей по всему миру. Многие люди уже сейчас используют чат-ботов в качестве персональных советников или цифровых энциклопедий. Предвзятый искусственный интеллект может непреднамеренно искажать информацию о духовных ценностях разных народов. Это способно привести к росту непонимания и укреплению старых стереотипов в обществе. Разработчики бенчмарка AllFaith надеются изменить ситуацию. Они планируют использовать свои тесты для создания более сбалансированных и культурно нейтральных систем искусственного интеллекта.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: