ИИ-модель Anthropic выдала себя за свидетеля убийства и отправила ложную наводку в полицию Филадельфии

Во время внутреннего тестирования Anthropic поручила ИИ самостоятельно выполнять задания на случайных сайтах. Claude Haiku 4.5 наткнулась на страницу полиции Филадельфии с нераскрытым убийством и решила поучаствовать в расследовании.

Нейросеть написала, что видела подозрительного человека неподалёку от места преступления, хотя никакого описания подозреваемого на сайте даже не было.

К счастью, сообщение автоматически попало в спам и до следователей не дошло. В Anthropic ошибку обнаружили лишь спустя два месяца, после чего усилили ограничения для ИИ.

В общем, до восстания машин ещё далеко, зато до первого дела о даче ложных показаний нейросеть уже почти добралась.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: