ИНТЕЛЛЕКТ КАК МАШИНА ПО БОРЬБЕ С НЕОПРЕДЕЛЕННОСТЬЮ

Люди любят указывать на различия между между озарениями своего разума и вычислениями «искусственного интеллекта». Причем зачастую начинают эти указания с констатации очевидного: наш мозг живёт в теле и через него ощущает мир, а нейросеть ИИ находится в недрах компьютера и мир не ощущает; мозг состоит из органики и питается глюкозой, а процессор сделан из кремния и питается электричеством; наш мозг никем не создан, а компьютер — наше творение. Кто бы спорил! Можно привести множество других различий и все они будут наглядны и неопровержимы.

Можно, также, привести тысячу различий между огромным эвкалиптом и кошкой (кора vs. шерсть, фотосинтез vs. дыхание, неподвижность vs. движение), но но на определённом уровне абстракции они принадлежат к одному классу — живые организмы с клеточной структурой, ДНК, метаболизмом, эволюционной историей.

Если, сравнивая мозг и нейросеть, сместить фокус внимания на поиск сходства (а любой адекватный интеллектуальный анализ состоит не только из поиска различий), то можно обнаружить, что в работе интеллекта человека и ИИ есть очевидные параллели. Они касаются принципов и методов обработки информации: извлечение статистических регулярностей из входных данных; кодирование этих регулярностей в весах связей; использование закодированных паттернов для предсказания; обучение через минимизацию ошибки предсказания. Назовём эту область сходства вычислительными принципами обработки информации (computational principles).

Дальше мы обнаружим, что большинство людей, в том числе образованных и считающих себя интеллектуалами, имеют очень смутное представление о работе своего интеллекта, точнее его материального носителя (субстрата) — мозга. Среднестатистический интеллектуал и даже мастер интеллектуального стендапа в блогосфере больше знает о теории относительности или общей психологии, чем о своём мозге, что что укрепляет в нём представление об уникальности интеллекта человека и его преимуществах по сравнению с ИИ.

Сделав необходимое уточнение о предмете и объекте нашего интереса в этой книге, можно продолжать. А именно — анализировать общее между мозгом и ИИ, чтобы получить нетривиальные выводы.

Фундаментальное заблуждение, пронизывающее дискуссии об искусственном интеллекте, заключается в поиске у людей некоего встроенного «гения» или «критерия истины», который позволяет человеческому разуму подниматься до вершин «подлинного понимания» в отличие от от перебора статистических паттернов в нейросетях.

Но что если это противопоставление ложно? Что если наш мозг тоже занимается «перебором паттернов» — просто делает это на биологическом субстрате?

Одна из наиболее влиятельных теоретических рамок современной нейробиологии — концепция «байесовского мозга», развитая в работах британского нейробиолога Карла Фристона. Согласно этим исследованиям, мозг — это не придуманный поэтами и философами высокодуховный орган постижения истины, а электрохимическая машина минимизации неопределенности. Это различие кажется непонятным сходу, но его последствия революционны.

Нейробиология (от греч. neuron — нерв) — наука о строении и работе нервной системы, прежде всего мозга. Изучает, как из активности нейронов возникают восприятие, мышление, память, эмоции и поведение. Находится на стыке биологии, медицины, психологии и информатики. Нейрофизиология — раздел нейробиологии, сфокусированный конкретно на функционировании нервной системы: как нейроны генерируют и передают электрические сигналы, как работают рефлексы, как кодируется информация.

Байесовский мозг — теоретическая концепция, согласно которой мозг работает как статистическая машина: он постоянно строит вероятностные гипотезы о причинах сенсорных сигналов и обновляет их по мере поступления новых данных. Название отсылает к теореме Байеса — математической формуле пересчёта вероятностей с учётом новой информации.

Карл Фристон (род. 1959) — британский нейробиолог, профессор Университетского колледжа Лондона, один из наиболее цитируемых учёных в области наук о мозге. Автор «принципа свободной энергии» — теории, претендующей на объяснение работы мозга и поведения живых систем через единый математический принцип.

Минимизация неопределённости — ключевая идея принципа свободной энергии: мозг стремится уменьшить расхождение между своими предсказаниями и реальными сенсорными сигналами. «Удивление» (неожиданный сигнал) — это проблема, которую система должна решить, либо обновив свою модель мира, либо действуя так, чтобы привести мир в соответствие с ожиданиями.

Предиктивные модели мира — внутренние представления, позволяющие предсказывать будущие события на основе прошлого опыта. Мозг непрерывно генерирует ожидания и сверяет их с реальностью; расхождение (ошибка предсказания) сигнализирует о необходимости скорректировать модель или обратить внимание.

Представьте себе положение мозга: он заперт в черепной коробке, лишен какого-либо прямого доступа к внешнему миру. Всё, что он получает — это потоки электрохимических импульсов от органов чувств: зрительных рецепторов, вестибулярного аппарата, тактильных сенсоров кожи, хеморецепторов языка и носа. Эти сигналы сами по себе бессмысленны поскольку не содержат никаких «инструкций» о том, что именно они означают. Они всего лишь электрическая активность сигналов, поступающих в мозг, которую ему нужно как-то интерпретировать.

Как же наш мозг решает эту задачу? Он начинает реконструировать наиболее вероятную причину этих сигналов методами статистического анализа. Когда вы смотрите на яблоко, ваш мозг не «видит» яблоко в прямом смысле. Он получает определенный паттерн активации фоторецепторов — распределение волн определенной длины, создающих пятна красного, зеленого, бежевого на сетчатке. На основании миллионов предыдущих наблюдений, закодированных в весах синаптических связей, мозг выдвигает гипотезу: «Наиболее вероятно, что причиной этого паттерна является объект категории "яблоко", находящийся примерно в метре от меня, с такой-то формой и цветом».

Здесь невероятно важно раз и навсегда усвоить вот это место в рассуждениях: «на основании миллионов предыдущих наблюдений». Мозг новорождённого — это та же тёмная камера, но почти без статистики (кроме накопленных в утробе матери связей). Младенец не знает, что красное пятно в поле зрения — это яблоко, что оно съедобное, что оно упадёт, если его отпустить. Его нейросеть ещё не накопила данных для предсказаний.

И вот начинается грандиозный эксперимент длиной в жизнь: каждый взгляд, каждое прикосновение, каждый звук добавляет строчку в базу данных. Младенец тянется к предмету — и обнаруживает, что красные пятна определённой формы обычно оказываются сладкими на вкус. Он роняет игрушку сотни раз — и его мозг фиксирует: отпущенные предметы падают вниз. Он слышит звук «мама» в присутствии одного и того же лица — и связь между звуковым и зрительным паттерном укрепляется.

К трём годам ребёнок провёл около десяти тысяч часов непрерывного сбора сенсорных данных. К двадцати годам — более ста тысяч часов. Каждый час — это миллионы отдельных сенсорных событий, корреляций, совпадений и расхождений. Вся эта статистика оседает в весах синаптических связей, формируя то, что мы называем «опытом», «интуицией», «знанием мира».

Когда взрослый человек мгновенно распознаёт яблоко, ему кажется, что он просто «видит» объект. На самом деле он пользуется результатами двадцатилетнего статистического эксперимента, в котором его мозг обработал миллиарды сенсорных образцов и вывел закономерности: такое сочетание цвета, формы, текстуры и контекста с вероятностью 99% означает «яблоко». Никакого врождённого знания о яблоках нет — есть только накопленная статистика.

Это в точности то же самое, что делает большая языковая модель, когда «угадывает» следующее слово в предложении. Получив последовательность токенов «Исаак Ньютон сформулировал закон всемирного...», модель вычисляет вероятностное распределение по всему словарю и выбирает наиболее вероятное продолжение: «тяготения». Она не «знает», что такое гравитация, в каком-то мистическом смысле — она знает статистику совместной встречаемости этих слов в корпусе текстов. Точно так же ваш мозг не «знает», что такое яблоко в каком-то абсолютном смысле — он знает статистику совместной встречаемости определенных визуальных, тактильных, вкусовых паттернов.

Карл Фристон формализовал эту идею через математический аппарат теории информации и статистической механики. Согласно его принципа свободной энергии, можно рассматривать все живые системы как системы, которые минимизируют неопределённость (или «удивление») относительно своих сенсорных входов. И это не абстракция. Нейронная система, которая не может предсказать последствия действий, быстро доведёт своего «хозяина» до гибели.

Интеллект в этой парадигме — это способность строить всё более точные предиктивные модели мира. Чем лучше ваша модель предсказывает будущие сенсорные входы, тем лучше вы адаптированы к среде. И это применимо как к дождевому червю, нейронная система которого предсказывает простые градиенты влажности и освещенности, так и к человеку, способному предсказывать абстрактные социальные, политические, математические закономерности.

Источник: vk.com

Комментарии: