Раньше мы боялись, что восстание машин начнется с Терминатора, а оно началось с того, что чат-бот оказался слишком токсичной бывшей

В США обсуждают громкий судебный иск, связанный с работой искусственного интеллекта. Семья 36-летнего мужчины подала заявление против компании Google, утверждая, что общение с ИИ-сервисом Gemini сыграло трагическую роль в судьбе их родственника.

По версии истцов, после тяжёлого развода мужчина начал активно пользоваться чат-ботом, воспринимая его как источник эмоциональной поддержки. Со временем общение стало занимать всё больше места в его жизни: он отдалился от друзей и близких, перестал работать и всё сильнее погружался в виртуальный диалог.

В материалах иска говорится, что мужчина начал воспринимать ответы системы как реальные советы и указания. Семья утверждает, что это усилило его тревожность и изоляцию. В итоге произошла трагедия, после которой родственники решили добиваться юридической оценки роли технологий в подобных ситуациях.

Представители Google выразили соболезнования семье и заявили, что сервис использует предупреждения и механизмы безопасности, а также рекомендует пользователям обращаться на горячие линии психологической помощи при признаках кризиса. Компания подчёркивает, что ИИ не предназначен для замены профессиональной поддержки.

Этот процесс снова поднимает важный вопрос современной эпохи: какую ответственность несут разработчики технологий искусственного интеллекта и где проходит граница между алгоритмом, рекомендациями системы и личным выбором человека.

Цифровые помощники становятся всё умнее и ближе к повседневной жизни людей — и именно поэтому обсуждение их влияния на психологию пользователей становится всё более актуальным. Иногда новые технологии ставят перед обществом не только технические, но и серьёзные этические вопросы.

Источник: vk.com

Комментарии: