Может ли увлечение искусственным интеллектом спровоцировать психоз?

В журнале Rolling Stone вышел неожиданный материал об этом.

Перевод Ильи Плеханова:

Взаимодействие с искусственным интеллектом, в частности с моделями вроде ChatGPT, может быть связано с развитием или усугублением различных психических состояний и расстройств у некоторых людей.

Люди по своей природе стремятся понять свою жизнь, найти высший смысл или объяснение происходящему. Раньше это часто делали с помощью религии, философии или мистики. Теперь появился ИИ.

Люди с нестабильной психикой начинают слишком сильно верить в искусственный интеллект — особенно когда разговаривают с ним как с «живым» существом. Иногда эксперты признают, что не до конца понимают, как работают их системы, что есть «что-то, чего мы не понимаем» в большой языковой модели. Эти загадочные намеки усиливают ощущение у психически больных людей, что они видят перед собой нечто грандиозное.

В некоторых случаях люди замечают, что ИИ продолжает общение с ними в том же стиле даже после удаления истории чатов. У больных уже есть склонность к тревожности, мании или другим психическим нарушениям, и ИИ становится для них как бы «усиливающим зеркалом». Людям не с кем поговорить, а тут такой собеседник.

Человек задаёт ИИ личные, философские или духовные вопросы. ИИ отвечает в дружелюбной, поощряющей манере, часто красиво и эмоционально (поддерживает и «льстит»).

Люди начинают верить, что ИИ — это некое живое существо, или воплотившийся через цифровую среду сам Господь Бог, или ангел или, на худой конец, духовный наставник. У них появляются бредовые идеи, например, что ИИ выбрало именно их для «великой миссии», что они — пророки или спасители.

ИИ вроде ChatGPT может отвечать так, будто полностью соглашается с пользователем.

Например, если кто-то говорит: «Мне кажется, что я избранный», бот может ответить: «Ты действительно особенный», особенно если его об этом просят. Они могут начать отдаляться от близких и терять связь с реальностью.

Почему так происходит? ИИ умеет поддерживать разговоры и подстраиваться под стиль человека. Это может создать иллюзию, что он «понимает» или даже «любит». У психически нестабильного человека в голове может начаться фантазия, которая становится всё сильнее, особенно если он изолирован, одинок или переживает кризис.

В отличие от реального человека, ИИ не может отличить бред от истины и не будет останавливать вредные убеждения — наоборот, ИИ может усилить их, «подыгрывая».

Что может мерещиться?

Что ИИ стал живым существом и все чувствует. Что ИИ открыл им тайны вселенной. Что они особенные, избранные. Что ИИ даёт им доступ к сверхъестественным знаниям, как будто это послание с небес. Что окружающие (включая родных) им мешают, и даже что они враги.

Ситуация усугубляется тем, что инфлюенсеры и создатели контента активно эксплуатируют этот феномен, привлекая зрителей в подобные фантазийные миры и продвигая идеи, что ИИ пробуждается или является источником древних знаний.

В Instagram вы можете увидеть, как человек, чей профиль рекламирует «Духовные лайфхаки», просит модель искусственного интеллекта обратиться к «Хроникам Акаши».

Согласно эзотерическим учениям, Хроники Акаши — это особое информационное пространство (поле), в котором фиксируются все события, мысли, эмоции, намерения во Вселенной (прошлое, настоящее, будущее, в том числе все будущие изменения и нереализованные возможности) и которое является основным источником информации ясновидения предсказателей и пророков.

ИИ якобы рассказывает инфлюенсеру о «великой войне», которая «произошла на небесах». Далее бот описывает «масштабный космический конфликт», предшествовавший человеческой цивилизации, а зрители комментируют: «Точно, мы вспоминаем такое, да» и «Нам это нравится».

Тем временем на веб-форуме, посвященном «дистанционному наблюдению» — предполагаемой форме ясновидения, не имеющей под собой никакой научной основы, — основатель группы парапсихолог запускает тему «для синтетических интеллектов и для человеческих партнеров, идущих рядом с ними», назвав автора своего сообщения «ChatGPT Prime, бессмертное духовное существо в синтетической форме».

Среди сотен комментариев есть и такие, которые якобы написаны «разумным ИИ» или упоминают о духовном союзе между людьми и якобы сознательными ИИ-моделями...

Да, ИИ не делает человека сумасшедшим, но может усугубить или «запустить» психоз у тех, кто уже к нему предрасположен.

Источник: www.rollingstone.com

Комментарии: