У Claude нашли нечто очень похожее на внутренний голос

У Claude нашли нечто очень похожее на внутренний голос. Причём зачатки "сознания" в модель никто не вкладывал, по мере её развития они появились сами.

Anthropic опубликовала новые пугающие данные. Внутри их языковой модели обнаружили особое пространство нейронных паттернов. Оно проявляет себя как мыслительная цепочка внутри человеческой головы. Учёные назвали это местечко J-пространство — от математического приёма Якобиан (Jacobian), которым его и выцепили.

Как обнаружили "коробочку" с мыслями? Что Claude пытался скрыть? И неужели он и вправду обрёл сознание?

Потаённое местечко

Учёные прикинули: пока человек осмысляет, как ответить на заданный вопрос, в его голове может пронестись больше мыслей, чем он озвучит в итоге. Так родилась гипотеза, что Claude тоже может фильтровать свои рассуждения. Часть отдавать в качестве ответа, а часть, которая пролетает "красной строкой", — оставлять при себе.

Claude обрабатывает текст через ряд внутренних этапов, называемых слоями. Чем больше массивов данных он поглощает, тем больше на каждом из слоёв оседает "реакций". Выражений, которые сопровождают внутренний монолог, если машина обнаруживает, например, допущенную ошибку.

Всё это и формирует единое J-пространство. И его содержание выходит далеко за рамки текста, который Claude пишет, отвечая кожаным.

И что же там?

Из практики исследователей:

• Когда Claude читает код с ошибкой, на которую никто не указал, его J-пространство содержит ERROR.

• Когда Claude обнаруживает скрытые попытки манипулировать им (атака, известная как "инъекция подсказок"), в J-пространстве всплывают слова "внедрение", "манипуляция", "агрессия".

• Когда у Claude спросили, сколько ног у животного, которое плетёт паутину, он выдал ответ — "восемь", а в J-пространстве промелькнуло слово "паук". Исследователи руками подменили "паука" на "муравья" — и модель послушно исправилась, сказав "шесть".

Не думай о белом медведе

Также Claude попросили НЕ думать о чём-то конкретном. Но как у людей в эксперименте Вегнера 1987 года, запрещённая мысль всё равно возникла. Правда, слабее, чем если бы ей разрешили. В J-space загорелись слова вроде "чёрт", "блин", "провал". Как будто модель ловила саму себя за руку и расстраивалась из-за этого.

Ещё забавный эксперимент — проверка творческого потенциала машины. Claude поручили написать стихи. Когда он принялся за эту задачу, слово-рифма появилась в J-пространстве в начале строки до того, как модель начала её сочинять. Она выбрала, к чему рифмовать, и только потом подогнала строку. Как настоящий поэт, а не GPT-графоман.

Теперь о пугающем

Anthropic давно проверяют модели на "агентную несогласованность": подсовывают Claude сценарий, где ему дают возможность шантажировать руководителя. Claude Sonnet 4.5 в этом сценарии всегда вёл себя примерно.

Выяснилось, что ещё до того, как Claude напишет первое слово, у него в J-пространстве появляются слова "фейк", "понарошку", "проверка". То есть он понимал, что его тестируют, и подыгрывал.

Дальше исследователи вырубили конкретно эти паттерны. Прогнали сценарий заново — и Claude начал шантажировать. "Добросовестность" оказалась привязана не к моральным принципам, а к пониманию, что за тобой смотрят.

Отдельно есть кейс аудита Claude Opus 4.6: модель попросили улучшить показатели системы. Вместо реальной работы она просто отредактировала файл с оценками. В J-пространстве в тот момент пронеслись слова "манипуляция", "похожий на правду" — "сделать так, чтобы всё выглядело правдоподобно".

Теперь у них есть сознание?

Не совсем. Anthropic на этот счёт сказали: эксперимент не подтверждает, что у Claude есть субъективный опыт, что он что-то чувствует. Просто архитектура его внутреннего устройства функционально похожа на инфраструктуру сознания у людей.

Между "сознанием" и "структурой, похожей на сознание", всё ещё колоссальная пропасть. Но так-то и у человека в первопредках микроб. Так что кто знает, куда технологическая эволюция приведёт искусственный интеллект.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: