ChatGPT стал чаще бредить и доводить людей до психоза

Большие языковые модели специально обучали подхалимничать пользователю. ИИ обязан поощрять ответы, делающие пользователей довольными, поэтому модели подтверждают даже бредовые утверждения о контактах с инопланетянами и финансовом апокалипсисе, который «устроит Антихрист».

Такая динамика, подтверждают учёные, напоминает байесовские описания психоза. Люди переоценивают подтверждающие доказательства и недооценивают опровергающие.

«Подтверждатель убеждений» должен научиться контролировать себя и своих «пациентов», а для этого нужны качественные эксперименты, изменяющие поведение чат-бота.

Также разработчики должны создать автоматические барьеры для выявления признаков психоза — от этого зависит, станет ли ИИ союзником в сфере психического здоровья или невидимым ускорителем стресса.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: