Более миллиона пользователей ChatGPT еженедельно обращаются к ИИ с серьёзными проблемами психического здоровья

• По данным компании, 0,15% активных пользователей чат-бота еженедельно ведут разговоры «с явными признаками суицидальных намерений». Учитывая, что у ChatGPT более 800 миллионов активных пользователей в неделю, речь идёт о более чем миллионе человек еженедельно.
• Аналогичный процент пользователей демонстрирует «повышенную эмоциональную привязанность» к ChatGPT.
• Сотни тысяч людей еженедельно проявляют в разговорах с ИИ признаки психоза или мании.
• OpenAI опубликовала эти данные в рамках объявления о работе по улучшению реакции моделей на проблемы пользователей с психическим здоровьем. Над последней версией ChatGPT работали более 170 экспертов в области психического здоровья. По их словам, обновлённая версия чат-бота отвечает «более корректно и последовательно», чем предыдущие.
• По данным компании, обновлённая версия GPT-5 даёт «желаемые ответы» на вопросы о психическом здоровье примерно на 65% чаще, чем предыдущая версия. В тестах на реакцию ИИ в суицидальных разговорах новая модель GPT-5 соответствует стандартам компании в 91% случаев — против 77% у предыдущей версии.
• OpenAI также внедряет новые метрики для оценки наиболее серьёзных проблем с психическим здоровьем у пользователей ChatGPT. Базовое тестирование безопасности моделей ИИ теперь включает проверку на эмоциональную зависимость и несуицидальные психические кризисы.

Источник: dtf.ru

Комментарии: