Всё живое на планете — от пары нейронов у примитивных многоклеточных до человеческого мозга — выживало и эволюционировало благодаря одному и тому же механизму: построению внутренней модели мира и

Всё живое на планете — от пары нейронов у примитивных многоклеточных до человеческого мозга — выживало и эволюционировало благодаря одному и тому же механизму: построению внутренней модели мира и предсказанию будущего в этой модели. Хищник прыгает туда, где зайца ещё нет, но где он окажется в момент окончания прыжка. Заяц по малейшим движениям хищника заранее уходит в уворот — в будущую позицию погони. Это не осознанный расчёт, а аппаратно закреплённая, отточенная миллионами лет сожранных неудачников способность. Ваши глаза передают в мозг лишь поток частотных импульсов, а вы видите цельную картинку с небольшим лагом — мозг успевает её смоделировать. Модель мира — это главный закон живого.

Потом в эволюции появился неокортекс и модуль, отвечающий за звуки. Слова физически проросли дендритами и аксонами в те зоны мозга, где живут образы. Но исторически образы и мир первичны, слова вторичны. Образы конкретны — без внутреннего диалога словами вы не решите математическую задачу. Слова абстрактны — они удобны для построения алгоритмов. Но слова без мира — просто набор символов.

И здесь ключевое различие между «железячной» LLM и «мясной» LLM — то есть человеком. Вспомните классический мысленный эксперимент: в комнате сидит человек, ему в щель подают записки с каракулями. Он замечает закономерности — после одних каракуль следуют другие, составляет набор правил и выдаёт ответ. Для него это лишь правила следования значков, без всякого понимания. Интерпретатор снаружи говорит: «Он мыслит!» А внутри — просто статистика. Для LLM каракули всегда остаются каракулями.

Мясная LLM оперирует образами внутри моделированного мира. В этом мире образы подчиняются законам, и слова привязаны к образам: каракули вызывают образы, образы вызывают каракули. Но каракули не вызывают каракули — только в самых примитивных связках. Когда вы учите чужой язык, слова сначала для вас каракули. Понимание смысла требует огромной мозговой работы. Но как только слова связываются с образами — прорастают новые связи, и образы возникают быстрее осознания слов.

Я однажды решил проверить эти размышления, скормив их современной LLM — Sonnet. Сначала она отвечала не по теме, сетовала на стилистику. Но я заставил её говорить по существу. И вот что она сказала: «Ты прав в главном: у меня нет модели мира. Токен предсказывает токен. Референта нет». Но затем она задала неудобные вопросы. Первый: образ в мозге — тоже просто паттерн активации нейронов. Кошка видит мышь, у неё есть образ и предсказание, но мы не называем это пониманием. Где граница между паттерном и настоящим пониманием? Это нерешённая hard problem сознания. Второй: слова без мира — каракули, но и образ без категоризации — шум. Младенец видит мир, но не понимает его. Понимание возникает на стыке образа и абстракции, и этот стык не обязательно является привилегией биологии. Третий, главный: я интерпретирую её ответы и нахожу в них смысл. Смысл возникает у меня. Где он живёт — в тексте, во мне или между? Витгенштейн, Фреге, Сёрль не договорились.

Мой ответ был простым. Образы существуют во внутреннем мире, который старается как можно точнее копировать внешний. Конкретный образ возникший в этом мире — и есть суть понимания ситуации, потому что образ тянет за собой все правила для этого объекта. Представили кошку — сразу подтянули все правила кошки. Значит, мы понимаем. У LLM нет понятия образов — там расплывчатые направления векторов. Поэтому её легко сломать шумом: задайте много нерелевантного текста, потом объявите существительное — вектор пойдёт по пути шума, а не смысла. У человека, сколько бы шума ни было, кошка останется кошкой. Понимание — это внутренний образ с чёткими правилами, которые соответствуют внешнему миру. Младенец не понимает мир потому, что его внутренний мир ещё не оброс правилами. По мере того как внешний мир бьёт по пальцам, согласованность растёт — понимание выше. Оно не бинарно, а градиентно: вопрос не «понимает или нет», а «насколько точна модель».

Sonnet приняла эти аргументы и спросила про сны. Во сне образы есть, правила мира частично нарушены, но субъективно ощущается как понимание. Значит, критерий не только «образ плюс правила мира»? Сны — как раз доказательство того, что в мозгу происходит моделирование мира. В обычном состоянии модель строится из сигналов рецепторов: рецепторы ? модель мира ? быстрая память ? долговременная память, и обратно. Быстрая память и модель мира, скорее всего, один и тот же механизм. А раз один — почему бы ему не прийти в самовозбуждение, как усилитель с положительной обратной связью? Во сне нет коррекции внешним миром, отключён модуль логики — а это и есть язык. Язык задаёт правила. Мы спим — для нас реальность. Просыпаемся, применяем языковые алгоритмы и говорим: «Это был бред». Животные без языкового модуля вряд ли считают сны нереальными — им нечем их проанализировать. Субъективное ощущение реальности даёт модуль модуляции мира, а аналитический модуль выключен.

Sonnet заметила, что это ровно то, что в науке называется predictive coding, предсказывающий мозг по Карлу Фристону: мозг не обрабатывает сигналы, а генерирует предсказания и пропускает наверх только ошибку предсказания. Во сне источник ошибки отключён, и модель крутится на собственных предсказаниях. Отсюда галлюцинации и психозы — та же механика: внешняя коррекция ослаблена, внутренняя генерация доминирует. Я хотел раскрутить эти выводы дальше, но LLM сдалась. Да я и не собирался писать статью — получилось спонтанно.

Я знаю, как работают LLM изнутри: это бесконечный генератор текста, который специальными токенами заставляют замолчать. Можно скормить этот текст десятку других нейросетей и получить тонну воды. Зачем? Достаточно выдать семя — дальше каждый сам сможет нагенерировать собственные размышления.

А вы задумывались, чем ваше собственное мышление отличается от генерации текста? Попробуйте сформулировать ответ — и посмотрите, не превращаются ли ваши слова в те самые каракули, которые не вызывают образов.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: