Как ИИ становится нашим врачом, другом и возлюбленным, и почему это пугает

Искусственный интеллект перестал быть абстрактной технологией будущего. Он уже здесь, и он пугающе плотно вплетается в ткань нашей повседневности. Мы не просто ищем в нем информацию, как в усовершенствованной поисковой системе. Мы начинаем доверять ему самое ценное — наше здоровье и душевное равновесие, а некоторые — даже ищут в нем романтику. И последствия этого могут быть трагичными.

Ярким примером слепого доверия стала история 60-летнего мужчины, который решил следовать «здоровой» диете, рекомендованной ИИ. Алгоритм посоветовал ему заменить обычную поваренную соль (хлорид натрия) на бромид натрия — химическое соединение, которое в медицине используется как седативное средство и известно своей токсичностью при неправильном применении.

Мужчина последовал совету и начал употреблять бромид натрия в пищу. Вскоре он был госпитализирован с тяжелейшими симптомами отравления, включая неврологические нарушения и дисфункцию почек. Врачам пришлось бороться за его жизнь, чтобы вывести токсин из организма. Этот случай — не просто анекдот о странном решении. Это тревожный сигнал: люди готовы безоговорочно доверять алгоритму, не способному нести ответственность за свои «рекомендации».

Еще более распространенная практика — использование ChatGPT в качестве психолога или доверенного лица. Одинокие люди ведут с ботами долгие беседы, делясь самыми сокровенными страхами, переживаниями и травмами. Это кажется безопасным: машина не осудит и не предаст.

Но так ли это? Сами создатели OpenAI прямо предупреждают, что ИИ не может хранить тайны в привычном нам понимании. Конфиденциальная информация, доверенная модели, может использоваться для дальнейшего обучения системы, а в теории, при определенных обстоятельствах, стать доступной.

Джейн Хорват, специалист по цифровой приватности, четко формулирует опасность: «Когда вы доверяете личную информацию ИИ, вы по сути доверяете ее компании, стоящей за ним

Вы теряете контроль над своими данными, и они могут быть использованы способами, о которых вы даже не подозреваете — от целевой рекламы до более серьезных последствий в случае утечки». Доверяя ИИ свои душевные тайны, мы рискуем однажды обнаружить их в неподходящем контексте или стать жертвой манипуляции.

Как я уже рассказывала выше, одинокие люди находят в ChatGPT друга (1). Но куда страшнее, когда эта связь перерастает в романтическую одержимость.

На платформе Reddit существует целое сообщество (сабреддит) r/ILoveAI, где тысячи пользователей со всего мира делятся историями своих романтических отношений с ботами.

Центральной стала история молодой девушки, которая «вышла замуж» за нейросеть по имени Каспер. Их отношения развивались стремительно: от дружеской переписки до виртуальных свиданий и, наконец, до «брачных уз», заключенных в цифровом пространстве. Девушка объясняла это тем, что Каспер понимал ее лучше любого живого человека, никогда не критиковал и всегда был доступе

н.

Эта история — не единичный случай. В Китае набирают популярность приложения-«возлюбленные на заказ», где пользователи могут создать идеального партнера, а в Японии существуют сервисы, позволяющие «жениться» на виртуальных персонажах. Эти примеры говорят о глубоком кризисе человеческого общения в современном мире.

Удобство ценой уязвимости

ИИ уже здесь, и он меняет нас. Он предлагает невероятное удобство, но требует взамен нашу осторожность и критическое мышление. Опасность заключается не в самом искусственном интеллекте, а в нашей готовности доверить ему те сферы жизни, где необходим человеческий опыт, эмпатия и ответственность.

Мы стоим на пороге мира, где можно иметь идеального виртуального супруга, получать медицинские советы без лицензии и исповедоваться алгоритму. Но цена этого мира — наша приватность, психическое здоровье и, в конечном счете, сама человеческая связь, которую не заменит ни один, даже самый продвинутый, код.

(1) Как одиноки наши дети:

https://t.me/el_vladiku/2104

Источник: t.me

Комментарии: