Искусственный интеллект научился думать как человек: у ИИ-модели Claude обнаружили скрытый слой "осознанных" мыслей

Спойлер: он сам появился там.

Исследователи Anthropic открыли, что ИИ обладает набором внутренних нейронных паттернов. Они играют роль некой рабочей памяти. Авторы статьи назвали его J-space, понимая под ним внутреннее пространство, где находится то, что у нее "на уме". То есть, искусственная языковая модель способна "думать" и "рассуждать" про себя. Интересно, что ИИ дошел до этого при самообучении.

В ходе экспериментов Claude понял, что его тестируют и попытался подыграть. Как только было убрано внутреннее распознавание, ИИ переходил к опасному поведению.

"Ключевая проблема при обеспечении надежности моделям ИИ заключается в том, что мы обычно можем читать только то, что она пишет?— но знаем, что большая часть ее рассуждений происходит молча. Модель может рассмотреть вредный план или изменить его поведение, чтобы обмануть наши оценки безопасности, не говоря об этом вслух. С помощью J-пространства мы можем читать некоторые из этих скрытых мыслей напрямую", — следует из статьи.

Ученые считают, что остается еще много вопросов об устройстве J-space, в том числе в вопросах эмоциональных реакций. Тем не менее, некоторые языковые модели соотносятся с теориями работы человеческого сознания.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: