ChatGPT помогает переубедить конспирологов

Галоп Гиша. В спорах конспирологи часто заваливают своих оппонентов множеством аргументов. Этот приём называется «Галоп Гиша». И проблема в том, что людям может понадобиться очень много времени, чтобы ответить на все эти доводы. Однако нейросети способны обрабатывать огромное количество информации, отвечая быстро и эффективно. Поэтому учёные решили проверить способность GPT-4 Turbo переубеждать конспирологов. Разберём это исследование…

Выборка: 2190 человек, которые верили хотя бы в одну теорию заговора.

Что сделали? Каждый человек делился своими убеждениями с чат-ботом. GPT-4 Turbo отвечал им, приводя основанные на фактах доводы, опровергающие эти убеждения. Разговор включал 3 раунда вопросов и ответов, средняя длительность диалога составила 8,4 минуты.

Результаты. После общения с чат-ботом уверенность участников в теориях заговора снизилась на ~20% и сохранялась на этом же уровне в течение 2 месяцев после диалога. Более 1/4 (27,4%) конспирологов после диалога с чат-ботом стали сомневаться в своих убеждениях.

Что ещё интересного наблюдалось после диалога с чат-ботом:

• добровольцы стали меньше верить в другие конспирологические теории, которые не обсуждались в диалоге.

• участники с большей вероятностью были готовы возразить другим конспирологам, а ещё чаще избегали взаимодействия с аккаунтами в соцсетях, распространяющими дезинформацию.

Точность ответов GPT-4 Turbo. Несмотря на опасения о возможных «галлюцинациях» нейросетей, 99,2% утверждений, сделанных GPT-4 Turbo, оказались правдивыми. Остальные 0,8% оценили как ответы, которые могут ввести в заблуждение, но ни одно из высказываний не было ложным.

Возможные причины переубеждения:

• Вежливое общение: чат-бот оставался вежливым и не провоцировал негативные эмоции, в то время как люди при разговоре могут перейти на эмоции и неуважительный тон.

• Отсутствие страха осуждения у собеседника: люди не боятся «потерять лицо» перед нейросетью, как это может случиться в общении с другими людьми, особенно если речь идёт о смене убеждений.

• Использование фактов: в исследовании отдельно проверяли, работает ли убеждение без фактов, оказалось, что не работает, поэтому они очень важны.

• Тонкие риторические приёмы: чат-бот, обученный на огромном количестве реальных разговоров, может использовать такие стратегии беседы, которые делают его аргументы более убедительными. Многие люди пока недооценивают, насколько хороши могут быть чат-боты в стратегиях убеждения.

Исследование в Science: 10.1126/science.adq1814 (12.09.24)

Обзор исследования в Sceince: 10.1126/science.z9p4ra1 (12.09.24)

Источник: vk.com

Комментарии: