Нужен ли нейросетям психиатр? Галлюцинации и выдумки: что общего у психики человека и искусственного интеллекта?

Ученые из Нидерландов заметили удивительную закономерность: ошибки больших языковых моделей (таких как ChatGPT) и систем распознавания речи пугающе напоминают симптомы психических расстройств у людей - галлюцинации и конфабуляции (ложные воспоминания). Представьте: Вы задаете вопрос самому продвинутому чат-боту, а он выдает вам безупречно логичный, но абсолютно ложный ответ. Или система распознавания речи превращает тишину в леденящую кровь историю о насилии. Компьютерные сбои? Отчасти.

В своей статье исследователи задаются провокационным вопросом: "Нужен ли ChatGPT психиатр?". И находят неожиданный ответ: сравнивая сбои в работе нейросетей и нарушения психики человека, мы можем лучше понять и то, и другое. Это не просто метафора, а новый взгляд на то, как работает предсказание и обработка информации в любых сложных системах - будь то мозг или компьютер.

Ложные воспоминания (Конфабуляции)

В психиатрии конфабуляция - это не ложь. Это когда мозг додумывает утерянные фрагменты памяти, создавая связную, но выдуманную историю. Человек с деменцией или синдромом Корсакова может с абсолютной уверенностью рассказывать о событиях, которых не было. Его мозг просто заполняет пустоту наиболее логичным, с его точки зрения, образом.

Большие языковые модели делают ровно то же самое.

Проблема "белого пятна". Если в данных, на которых обучали модель, не хватает информации (это как "провал в памяти"), нейросеть не скажет «не знаю». Она сгенерирует ответ, основываясь на статистических паттернах - то есть на том, что обычно встречается в подобных текстах.

Влияние формулировки. Если спросить: "Сколько животных каждого вида взял Моисей на ковчег?", Вы получите уверенный ответ - "по паре". Хотя на самом деле это был Ной. Модель (как и многие люди) попадается на крючок из-за знакомой структуры вопроса, игнорируя фактическую ошибку.

Эффект разбитого стекла: как в известном психологическом эксперименте, где свидетели ДТП "вспоминали" разбитое стекло, которого не было, так и нейросеть может выдавать ложные факты, если в вопросе уже заложено неверное допущение (например: "Объясни, почему вакцины вызывают аутизм").

Ключевое отличие: человек "пересобирает" воспоминание, используя эмоции и логику. Нейросеть же просто вычисляет, какое слово с наибольшей вероятностью должно идти следующим. Но внешний результат - связная, правдоподобная, но ложная история - идентичен.

Голоса в тишине (Галлюцинации)

Слуховые вербальные галлюцинации (СВГ) - это когда человек слышит голоса без внешнего источника. Часто эти голоса угрожающие, критикующие и повторяются.

Система распознавания речи демонстрирует поразительное сходство:

Токсичный контент: около 38% галлюцинаций содержат явные угрозы, сцены насилия или оскорбительные стереотипы. Прямо как у пациентов с психозом.

Зацикленность: искусственный интеллект может бесконечно повторять одно и то же слово или фразу, что напоминает повторяющиеся темы в голосах больных шизофренией.

Сбой в тишине. Самое интересное: нейросеть чаще всего "слышит" голоса тогда, когда в записи нет речи, или она сильно искажена фоновым шумом. В условиях неопределенности система домысливает наиболее вероятный (по ее статистике) текст. У людей с прогрессирующей потерей слуха риск развития слуховых галлюцинаций также значительно возрастает. Мозг, не получая четкого сигнала, начинает "дорисовывать" его из внутренних шумов.

Ключевое отличие: для человека галлюцинация - это реальный сенсорный опыт, связанный с работой нейромедиаторов (дофамина) и нарушением механизма, который отличает собственные мысли от внешних голосов. Для нейросети это просто математический расчет вероятностей. Но поведенчески сбои выглядят одинаково.

Почему это работает? Теория предсказаний

Почему нейросети так похожи на наш мозг в своих ошибках? И там, и там работает принцип предсказания.

Согласно теории Карла Фристона, наш мозг - это машина предсказаний. Он постоянно строит гипотезы о том, что должно произойти, и сверяет их с реальными сигналами от органов чувств. Если сигнал слабый или нечеткий, мозг полагается на свои внутренние ожидания (предубеждения). Это порождает галлюцинации.

Нейросети работают по схожему принципу "вывода при неопределенности". Когда акустический сигнал слаб (шум, тишина), модель опирается на статистические ожидания, выученные на миллионах примеров.

Более того, исследователи находят параллели в методах "лечения":

В психиатрии используется когнитивно-поведенческая терапия (КПТ). Пациента учат проверять реальность: "Этот голос реален? Слышат ли его другие?".

В ИИ это реализуется технически: система может перепроверять свой ответ через цепочку рассуждений (Chain-of-Thought) или искать подтверждение в интернете (Retrieval-Augmented Generation).

В психиатрии ключевую роль играет сон, снижение стресса и социальная поддержка. Это помогает мозгу лучше контролировать свои предсказания.

В ИИ добавление дополнительных вычислительных ресурсов на этапе проверки (а не просто на этапе генерации) снижает количество ошибок.

Не просто сбои

Исследователи приходят к важному выводу. Галлюцинации и конфабуляции в нейросетях - это не просто досадные баги. Это фундаментальное свойство систем, которые пытаются предсказывать мир, имея дело с неполной информацией.

Наш мозг делает то же самое для выживания, творчества и воображения. Проблема возникает, когда баланс между предсказанием и реальностью нарушается - будь то из-за недостатка сна, шума в микрофоне или проблем с дофамином.

Понимание того, как ИИ совершает ошибки, дает нам уникальный инструмент для изучения собственного сознания, а методы лечения психических расстройств (вроде КПТ) могут подсказать инженерам, как сделать нейросети более надежными.

Возможно, в больших языковых моделях мы нашли первое "животное", которое, в отличие от крыс и обезьян, способно моделировать нашу речь и наши ошибки. И, изучая их, мы учимся лучше понимать самих себя.

Это - наш перевод статьи "Does ChatGPT need a psychiatrist? Similarities between human psychopathology and errors in large language models" из журнала Digital Psychiatry and Neuroscience, 2026 год

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: