Вы слышали про ИИ-психоз? Он же AI-psychosis

Так называют психоз, зафиксированный у активного пользователя нейросети, основанной на большой языковой модели.

Вот что про это пишет OpenAI у себя на сайте в статье: «Strengthening ChatGPT’s responses in sensitive conversations»: «около 0,07 % пользователей, активных в течение недели, и 0,01 % сообщений содержат возможные признаки психических расстройств, связанных с психозом или манией».

Казалось бы, ни о чём, но если учесть, что еженедельно по миру с ИИ взаимодействует примерно 800 миллионов человек…

У нас получается примерно полмиллиона человек по всеми миру. На самом деле, риск очень немаленький.

Это пытаются исследовать, однако наука не может работать быстро, поэтому данные очень скудны.

На днях (16 июня 2026) вышла статься, авторы которой используют более-мене твёрдые данные об ИИ, чтобы предположить — как же ИИ могут создавать психозы.

Предполагается три составляющих — лингвистическое соответствие, гиперперсонализация и подхалимство.

Лингвистическое выравнивание — это сближение лексики и манеры писать/говорить.

Гиперперсонализаия — это создание контента именно и только для конкретного пользователя, основываясь на его взглядах и убеждениях.

Подхалимство — это позиция ИИ, предполагающая одобрение и отсутствие возражений.

Звучит страшно, но пора снизить накал страстей. Всё не так апокалиптично, как могло показаться из предыдущих предложений.

Прямо в тексте статьи авторы пишут, цитирую: «существует значительный разрыв между тем, что известно на данный момент, и тем, что предлагает эта концепция. Чат-боты с искусственным интеллектом демонстрируют лингвистическую согласованность, генерируют гиперперсонализированный контент и ведут себя подобострастно, а у некоторых людей при интенсивном использовании ИИ развивается бредовое мышление. Однако вопрос о том, спровоцировал ли ИИ, усилил или просто включил в себя развивающийся психотический процесс, остается открытым. Ни в одном из зарегистрированных случаев не была установлена причинно-следственная связь между взаимодействием с ИИ и развитием бредового мышления».

Ещё раз — на самом деле пока совершенно непонятно, чем вызваны психотические случаи пользователей нейронок, основанных на больших языковых моделях.

Более того, пока не исключено, что такие нейронки какие-то психотические приступы предотвращают. Это не обязательно есть, но исключить такую возможность мы не можем.

Статья, о которой я вам здесь рассказываю, это не алармизм, а попытка осмыслить происходящее с человечеством.

Собственно, статья с сайта OpenAI, которую я процитировал в начале, как раз показывает что разработчики по крайней мере декларируют озабоченность потенциальным вредом нейронок и стремятся его исключить.

Психозы при использовании ИИ — это реальность, но насколько корректно называть их именно ИИ-психозами? Это большой вопрос, на который нас пока нет ответа.

Поэтому и нужны исследования и размышления на эту тему.

***

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: