Соль, ChatGPT и психоз

Пишет Евгений Пашнин — психиатр и психотерапевт, эксперт «Двора»

Может ли использование ИИ привести к психозу – то есть к бреду, галлюцинациям, нарушению поведения? Всегда был убежден, что крайне маловероятно. Разумеется, человек с уже существующими психотическими симптомами или на ранних стадиях тяжелого ментального расстройства может усугубить свое состояние – но это относится и к ИИ, и к алкоголю, и к наркотикам.

В общем, несмотря на порой дикие советы и неполное понимание контекста (как в недавней новости про увольнение и высокие мосты в Нью-Йорке), я был убежден, что спровоцировать с нуля настоящий психоз через общение с ИИ-ботами невозможно.

Оказывается, возможно! Но с солёнвми оговорками.

Согласно недавнему описанию клинического случая, мужчина оказался в психиатрической клинике после того, как последовал медицинскому совету от ChatGPT. Как выяснилось, он искал замену поваренной соли (хлорида натрия) и получил рекомендацию попробовать натрия бромид. В общем-то тоже соль, но в конце XIX – первой половине XX века она широко применялась как успокоительное средство, входило в состав безрецептурных БАДов вроде Bromo-Seltzer и использовалось при бессоннице или судорожных состояниях. Однако уже десятилетия назад бромидные соли были выведены из медицинской практики в большинстве стран из-за их высокой токсичности и способности вызывать хроническое отравление — бромизм.

Вероятно, до этого в общении с чатом не дошло, и следуя совету, пациент сначала добыл, а потом начал употреблять бромид натрия в пищу. Спустя дни у него появились тревожность, депрессивное настроение, раздражительность, спутанность сознания, параноидальные идеи, нарушение координации и другие признаки бромизма, который врачи не встречали десятилетиями. Симптомы постепенно усиливались, и в итоге он был госпитализирован. Поначалу его состояние расценили как психотическое и лечили антипсихотиками, но достаточно быстро диагностировали интоксикацию бромидом и провели курс детоксикации. Через три недели пациент полностью восстановился и был выписан без серьёзных последствий для здоровья.

Авторы клинического отчёта подчёркивают, что этот случай — не просто «возвращение» давно забытого заболевания, а наглядная иллюстрация рисков бездумного следования советам искусственного интеллекта в вопросах здоровья. Они отмечают, что ИИ-системы вроде ChatGPT могут выдавать ответы, которые выглядят научно обоснованными, но на деле содержат ошибки, не сопровождаются критическим разбором и могут способствовать распространению дезинформации.

«С высокой вероятностью ни один медицинский специалист не упомянул бы бромид натрия как возможную альтернативу хлориду натрия в ответ на подобный запрос», — пишут авторы. Они призывают относиться к рекомендациям ИИ с осторожностью и всегда проверять их у квалифицированных врачей или в надёжных медицинских источниках.

У меня же остаются вопросы к глубине проработки вопроса и формулирования промта для ChatGPT со стороны клиента-пациента. К тому же, если он хотел заменить соль на что-то менее вредное, то он промахнулся вдвойне – ведь натрий все равно продолжил поступать в организм.

И на всякий случай: поваренную соль действительно можно заменить на другую – хлорид калия (если нет специфических противопоказаний). И чтобы это знать, достаточно… погуглить

Источник: vk.com

Комментарии: