Как работает нейрон и почему этого недостаточно для понимания сознания. Как химия превращается в мысль

Часть 1. Основы нейрофизиологии (по Патриции Черчленд)

Нейрон окружён мембраной. В состоянии покоя внутри клетки находятся крупные отрицательно заряженные органические ионы, а снаружи - более мелкие ионы со смешанными зарядами. Крупные ионы не проходят через мембранные поры, поэтому внутренняя сторона мембраны заряжена отрицательно относительно внешней.

Когда нейрон получает химический сигнал от соседней клетки, открываются ионные каналы. Через них внутрь поступают положительные или отрицательные ионы, либо положительные ионы выходят наружу. Это временно меняет проницаемость мембраны, после чего потенциал покоя быстро восстанавливается.

Движение ионов создаёт электрический ток, который распространяется по мембране. Разные токи (с разных участков или в разное время) взаимодействуют: они могут гасить друг друга или суммироваться и усиливаться. Это - основа локальной обработки информации в нейроне.

Если суммарный сигнал достигает порога, в аксоне (длинном отростке) возникает мощный импульс - потенциал действия. Он запускает передачу сигнала следующему нейрону.

Работа нейрона - это динамическое взаимодействие токов на мембране. Однако, как будет рассказано дальше, даже полное знание этих процессов не даёт ответа на вопросы о сознании, эмоциях или мышлении.

Часть 2. Проблема уровней объяснения (на примере нейросетей)

Представьте, что вы ничего не знаете о нейросетях и языковых моделях. Вы видите только, что некая штука получает от Вас сообщение на русском и выдаёт осмысленный текст на русском в ответ. Если мы заглянем внутрь модели, то увидим… просто набор чисел. Огромную матрицу.

Упростим: каждый из 175 миллиардов нейронов в GhatGPT - это просто число, например 0,68. При работе сети это число умножается на другое число, скажем 0,44. Результат (0,2992) умножается на значение в следующем связанном "нейроне". Заглянув внутрь, мы увидим только элементарную арифметику.

И закономерно сделаем вывод: это какой-то бред. Здесь нет никаких цветов, времён года или стихов (или что там написала нам нейросеть). Только числа, которые порождают другие числа. Эта никак не сможет написать книгу по моей просьбе.

Если мы попытаемся понять, как из одной арифметической операции (из одного нейрона из 175 миллиардов) возникает текст, мы ничего не поймём. Даже если мы изучим тысячи, сотни тысяч, миллиарды таких операций - мы всё равно не увидим стихов. Только умножение и матетиматику. Подход "снизу вверх", от уровня отдельного нейрона к высшим функциям здесь - не работает. Возникнет ощущение непреодолимого разрыва между умножением чисел и способностью писать осмысленный текст.

И тем не менее именно так работают языковые модели. Семантическая и синтаксическая информация закодирована в весах нейронов - благодаря архитектуре сети и обучению. Числа значимы для самой сети, но никак не для стороннего наблюдателя. Под капотом языковой нейросети нет ничего, кроме этих чисел и их умножения. Если мы опишем каждую математическую операцию программы (то есть просто запустим код), мы получим текст на русском. Способность полностью сводится к этим математическим операциям.

Часть 3. Ошибка уровня и загадка сознания

Вернёмся к началу. Мы могли бы объяснить все только числами - но это было бы некорректно, если мы действительно хотим понять почему сеть работает. Математика верна, но мы же не воспринимаем цвета как, например, чисто числа. Нам нужно знать, как структуры в сети кодируют синтаксическую и символическую информацию. Это гораздо более высокий уровень абстракции. Ответ на вопрос "Как?" заставляет нас рассуждать о том, что представляют числа и их крупномасштабные структуры, а не о том, чем они являются численно.

Теперь вернемся к мозгу и сознанию. Поговорим про "эмоции" или "философские мысли" (или сознании) - понятиях предельно высокого уровня абстракции. Если мы посмотрим на отдельные нейроны - увидим невероятно низкий уровень детализации. Это всё равно что всматриваться в один нейрон (параметр) ChatGPT, видеть его числовой вес и ожидать какой-то связи с цветом, словом, мыслью.

И заметьте: даже если бы мы совершенно не понимали, почему числа внутри сети сложились именно так, даже если бы мы не видели никакой связи между структурой весов и смыслом, мы все равно знали бы, что способность нейросети писать стихи полностью сводится к этим числам. Разрыв между уровнями существует, но он не отменяет редукции - он лишь показывает, что для понимания "почему" нужен другой масштаб.

Короче говоря.

Знание того, как работает отдельный нейрон (ионные каналы, токи, потенциал действия), абсолютно необходимо, но совершенно недостаточно для объяснения сознания, эмоций или мышления. Эти феномены возникают на уровне макроструктур - миллиардов нейронов, их связей и динамики активаций.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: