ИИ справляется с пропагандой лучше, чем человек

Дебаты по поводу возможностей ИИ (и нейросетей) подтолкнули меня к анализу его эффективности в сфере, которая напрямую связана с воздействием на людей.

СМИ.

Ученые из США доказали, что ИИ позволяет не только быстро и и дешево публиковать пропагандистские статьи, но и гораздо лучше доносить до аудитории тезисы пропагандистов, чем это сделал бы человек.

Исследователи устроили соц. опрос, предоставив респондентам тексты, полностью составленные людьми, и тексты, с похожими пропагандистскими тезисами, но сгенерированными GPT-3 davinci.

Оказалось, что 47.4% опрошенных граждан США поверили тезисам пропаганды., составленной человеком.

А в пропаганду, сгенерированную нейросетью, поверило 43.5% опрошенных.

Дальше больше.

Исследователи стали отбирать сгенерированные тексты GPT-3, чтобы повысить доверие опрошенных к пропагандистским текстам.

Выяснилось, что нейросеть, в отличие от людей, владевших английским как иностранным, гораздо лучше справляется с написанием английского текста.

Респонденты признали, что сгенерированный текст гораздо лучше написан, и не допускал орфографических ошибок.

А отбор наилучших тезисов GPT-3 позволил увеличить доверие опрошенных к пропаганде до 52.7%!

Выводы, которые можно сделать в результате исследования, удручающие.

Объем и доверие к пропаганде будет только возрастать в XXI веке, так как нейросеть позволяет не только генерировать больше статей и постов, масштабируя вводящий в заблуждение контент.

Но и создавать иллюзорную поддержку пропагандистских тезисов, имитируя стиль общения реальных людей.

А отделить правду от вымысла будет невозможно, так как сэкономленные ресурсы СМИ будут направлять на создание инфраструктуры, поддерживающей доверие к новостям.

Josh A. Goldstein. How persuasive is AI-generated propaganda? 2024.

Источник: vk.com

Комментарии: