Об осознающей себя нейросети

Размышляя с утра о популярных в области сознания и этики вопросах, которые уже изрядно набили оскомину, я задался вопросом: что нужно сделать машине, чтобы ту невозможно было отличить от сознательного субъекта? И либо я идиот, не понимающий всех тонкостей, либо мне на ум пришла довольно занимательная мысль.

Может ли ИИ, в том виде, в котором мы его знаем сейчас ( LLM, свёрточные нейросети, диффузионные модели), иметь сознание, подобное человеческому? Более чем вероятно, что нет. Может ли ИИ в принципе иметь сознание? Однозначно да. И вот моё мнение и, грубо говоря, обоснование.

Начнём с того, что мы вообще принимаем за сознание. Сознание – непрерывный поток чувственного опыта. Так ли это? Ну, если Вы материалист, то более чем вероятно что Вы согласитесь с этим. Даже если вы редукционист и предпочитаете лёгкую проблему (по Д. Чалмерсу), то для вас сознание – это объективный, моделируемый механизм. Как писал Андрей Николаевич Колмогоров - «Достаточно полная модель живого существа по справедливости должна называться живым существом, модель мыслящего существа — мыслящим существом». Так вот, на данный момент все известные нами модели ИИ не обладают теми свойствами, которые мы приписываем сознательному, и что важно ответить, антропоморфному субъекту. Вычислительный процесс у нейросетей дискретный, и идёт только во время обработки запроса пользователя.

Представьте себе робота. Незаурядного, простого. С простыми сервоприводами, камерами и датчиками, по типу тех, что мы видим уже сегодня. Но особенность в предполагаемой архитектуре. В его «мозге» стоит множество мощных процессоров, сравнимых с самыми мощными видеокартами (именно ими, а не обычными процессорами), в связке с просто колоссальным объёмом быстрой памяти (по типу тех же Gddr7 или Ddr5 самых высоких частот). Быстрая память ограничена, но на ней загружена сама нейросеть, которая спокойно может продолжать работу неограниченное количество времени. Контекст её ограничен, но он не сбрасывается или забивается, а постепенно замещается (как видео в системах видеонаблюдения). Но самое главное – после того, как данные в контексте устаревают, выводится отдельный поток, который фиксирует самое главное из этой «кратковременной памяти» и выносит информацию в более медленные, но объёмные и энергоэффективные и энергонезависимые слоты памяти (условно – те же жёсткие диски больших объёмов). Таким образом, мы бы получили нейросеть, которая способна поддерживать непрерывный поток данных, обрабатывать, анализировать и, что немаловажно, запоминать их. Так мы получим объект, который будет двигаться, будет видеть, будет реагировать на раздражители и сможет поддерживать общение. И при этом будет всё запоминать, а его работа будет непрерывная. При достаточной обученности вшитой в него LLM, такой робот будет внешне неотличим от так называемого философского зомби – существа, которое внешне полностью соответствует человеку. Он разговаривает, двигается, шутит и плачет, но внутри него точно нет того, кто бы это всё осознавал. Именно с зомби похож потому, что мы всё ещё наверняка не сможем сказать о роботе, что он сознательный в полном понимании этого слова.

Не могу сказать точно, но мне кажется, что я не первый поставил такой мысленный эксперимент, но я хочу показать, насколько ближе к реальности он находится, чем может показаться.

Дальнейшее рассуждение о наличии у этого робота сознания – это уже трудная проблема сознания. Ведь можете ли вы с уверенностью сказать, что стоящий рядом с вами человек – не философский зомби? Откуда вы знаете, что у него наверняка есть квалиа, как у вас?

Многие скептики могут возразить: «Но хэй, если робот попадет в передрягу и ему начнет пережаривать руку, он действительно отдернет её. Да, но он сделает это на чистом автомате, повинуясь зашитым в него алгоритмам, которые просто считали критические значения с термопары!»

Всё верно. Но разве мы устроены иначе?

Наша нервная система - это буквально аппаратный набор триггеров и механизмов реагирования. Когда человек касается раскаленного металла, сигнал от нервных окончаний замыкается в спинном мозге, и мышцы сокращаются до того, как информация о боли дойдет до коры головного мозга. Это низкоуровневое аппаратное прерывание, скрипт безопасности, работающий в обход основного процессора. Точно так же, как гироскоп и полетный контроллер выравнивают крен аппарата в воздухе за миллисекунды, не дожидаясь осознанных команд оператора. Наш рефлекс - это чистая электрохимия, ничем не отличающаяся от алгоритма термопары.

Тогда скептик достает второй козырь: «Хорошо, пускай физиология похожа. Но робот не знает значения слов! Он лишь генерирует то, что статистически наиболее вероятно, обучаясь через анализ реакций пользователей (RLHF)».

И снова — разве мы не проходим абсолютно тот же путь? Человеческий младенец не рождается с предустановленным словарем смыслов и концепций. Опираясь на теорию регистров психики Жака Лакана, можно с уверенностью сказать: мы постигаем осознание и символизм гораздо позже того, как открываем глаза и начинаем демонстрировать базовые поведенческие скрипты.

Ребенок появляется на свет в хаосе сырых физиологических ощущений (лакановское «Реальное»). Он кричит от дискомфорта, не имея ни малейшего понятия, что значит слово «больно». Значения слов появляются позже, исключительно через социализацию: младенец совершает случайное действие или издает звук, анализирует реакцию внешнего мира (родителей) и получает подкрепление. Мы обучаемся языку и смыслам точно так же предсказывая реакцию окружения и корректируя свои внутренние связи.

Если на уровне «связь железа и операционной системы», мы с роботами настолько схожи, то каковы шансы, что и наличие у машины субъективного «Я» будет настолько же очевидным, как и у нас? Было бы славно получше узнать, что такое «Я» в полном понимании этого слова. В своей писанине я отождествил это понятие с материалистическим «непрерывным потоком», отсюда и доказуемость наличия сознания у машин более чем очевидна. Если же наше сознание – это нечто более эмерджентное, запутанное и «возвышенное» нечто, что тоже может быть правдой, тогда моя красивая писанина про роботов не имеет большого смысла. Во всяком случае, в первую очередь нам нужно понять нас самих.

Катрич В.В.

12.07.2026

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: