«Искусственный интеллект написал донос в полицию»

Звучит как начало антиутопии, но это реальный заголовок из новостей Флориды. Жительница штата Карли Мишель Хеллер использовала чат-бот Claude от компании Anthropic в качестве личного дневника. И, судя по всему, была уверена, что железный собеседник хранит секреты так же надежно, как бумажный блокнот, лежащий под подушкой.

В переписке она, по данным следствия, поделилась планами устроить стрельбу в офисе шерифа округа Ли, а на следующий день сообщила о покупке нового оружия. Система безопасности Claude сработала как надо: алгоритмы пометили сообщения, после чего их посмотрел живой сотрудник компании, признал угрозу реальной и передал информацию полиции.

Женщину задержали. Ей предъявили обвинение в письменной угрозе насилия — это второй уровень тяжкого преступления по местным законам.

Главный вывод этой истории не про «бунт машин», а про то, как мы наивно относимся к приватности в цифровую эпоху.

Мы привыкли думать, что общение с ИИ это интимный процесс. Но по факту это не разговор с бездушным алгоритмом в вакууме, а переписка с корпорацией, у которой есть серверы, модераторы и юридические обязательства. В политике Anthropic прямо сказано: если есть угроза неминуемой смерти или серьезного вреда, данные уходят в правоохранительные органы.

Шериф округа Ли даже пошутил (или нет), что пользователи ИИ-чатов «никогда не бывают по-настоящему анонимными».

С одной стороны, это пугает. Мы добровольно устанавливаем в своей голове кнопку «отправить донос», просто начав откровенничать с чат-ботом. С другой стороны, если человек всерьез планирует массовое убийство, то тот факт, что его остановил не сосед по лестничной клетке, а языковая модель, это, пожалуй, одна из самых мирных новостей за неделю.

Вопрос этики здесь упирается не в «ИИ нас предал», а в то, готовы ли мы платить за безопасность отказом от иллюзии цифрового одиночества. Похоже, что ответ уже дан, просто мы его не читали в пользовательском соглашении.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: