Мечта о машине со здравым смыслом

Давайте я вам напомню, что такое компьютер в 1959 году. Это огромная бандура, которая занимает целые комнаты, программы для них – огромные пачки перфокарт, а термину «искусственный интеллект» родился только в этом десятилетии.

В это время молодой учёный Джон Маккарти, пишет статью с дерзким названием «Программы, обладающие здравым смыслом». Он задаётся вопросом, который и сегодня звучит революционно: можно ли научить машину не просто вычислять, а рассуждать как человек, делая простейшие логические выводы из того, что она знает?

Маккарти мечтал создать не просто очередной алгоритм, а фундаментально новую архитектуру — «Советчик» (Advice Taker). Эта программа должна была работать не с числами, а с утверждениями на специальном формальном языке, похожем на логику. В её основе должен был быть мощный механизм: система хранит набор фактов и правил, а затем автоматически выводит из них непосредственные следствия. Если среди выводов оказывается команда программа её выполняет.

Ключевая идея, которую отстаивал Маккарти, заключалась в способе «обучения» такой системы. Вместо того чтобы кропотливо перепрограммировать её для каждой новой задачи (как это делалось во многих системах), «Советчику» можно было бы просто сообщать новые факты на «человекоподобном» языке. «Моя машина находится дома», «Аэропорт находится в черте города», «Если что-то находится в одном месте с другим, то оно находится и в месте этого другого». Программа, обладая «здравым смыслом», сама связала бы эти факты в цепочку и пришла к выводу, что чтобы добраться до аэропорта, нужно сначала дойти до машины.

Здесь Маккарти делает тонкое, но критически важное различие между двумя типами знаний. Большинство программ его времени (да и нашего) работают на языке императивов — чётких инструкций: «шаг 1, шаг 2, шаг 3». Это как дать человеку подробнейший рецепт с точностью до миллиграмма. «Советчик» же должен был понимать декларативные утверждения: констатации фактов о мире. Преимущество последних в том, что они не зависят от порядка, их можно добавлять когда угодно, и они позволяют системе использовать уже имеющиеся знания для решения новых задач. То есть не объяснять каждый раз, как именно ходить, а просто сообщить, что «ходить можно между точками в пределах пешей доступности», и позволить машине самой применить это правило к конкретной ситуации.

Чтобы проиллюстрировать свою идею, Маккарти разбирает простой пример.

Человек (условно «Я») сидит за письменным столом дома и хочет оказаться в аэропорту. Машина тоже дома. Используя факты о местоположении, правила транзитивности («находиться в»), возможность ходить и водить машину, а также мета-правило о составлении планов действий, «Советчик» должен вывести последовательность: «Пройди от стола к машине, затем поезжай от дома к аэропорту». Это очень серьёзный пример смешения уровней абстракции: программа оперирует и конкретными объектами (стол, дом), и абстрактными понятиями (цель, достижимость, план).

Однако мечта Маккарти сразу натолкнулась на суровую критику. На конференции, где была представлена работа, известный философ и логик профессор Иегошуа Бар-Хиллел буквально разнёс идею в пух и прах.

Критика Бар-Хиллела сводилась к тому, что формальная логика слишком хрупка для реального мира. Он говорил: нельзя закладывать в машину жёсткое правило, будто «находиться в» всегда передаётся по цепочке. Например, в жизни мы используем это слово по-разному. «Ложка находится в стакане» — это прямо и физически. «Стакан находится на кухне» — это уже про местоположение в помещении. Но если машина слепо применит правило, то решит, что «ложка находится на кухне» в том же самом, непосредственном смысле — как будто она лежит на полу, а не в стакане на столе. Это уже не здравый смысл, а логическая ошибка. Мир не чёрно-белый, а полон контекстов и оттенков смысла, которые не умещаются в простое математическое «если А в Б, а Б в В, то А в В». Он боялся фундаментальной ошибки программы.

Бар-Хиллел также указал на пропасть между учебным примером и реальностью. В задаче не учитывались время, стоимость альтернатив (такси), возможность отмены рейса и миллион других факторов. Чтобы рассуждение было действительно здравым, его сложность должна возрасти на многие порядки. «Легкомысленное перескакивание через эти порядки величины, — заявил критик, — лишь затуманивает вопрос». По его мнению, заявление Маккарти было «полуготовой идеей», красивой, но наивной.

Ответ Маккарти был спокоен и методологически точен. Он согласился, что его пример — упрощённая модель, а не готовое решение. Но цель была не в том, чтобы сразу создать идеальный навигатор, а в том, чтобы выделить и попытаться формализовать сам механизм здравомысленного вывода. Сложность мира можно наращивать позже, добавляя новые факты и правила. Главный же вызов — заставить машину самостоятельно находить в своей памяти релевантные посылки для рассуждения. Если мы решим эту задачу на игрушечном примере, путь к сложным системам будет открыт.

Так в самом начале пути ИИ обозначился фундаментальный раскол. С одной стороны — романтическая вера в силу логики и формального знания, в возможность построить рассуждающую машину «с нуля», снабдив её правилами вывода. С другой — скептицизм, указывающий на неисчерпаемую сложность, ь человеческого здравого смысла. Маккарти сделал первый, невероятно смелый шаг, нарисовав карту неизведанной территории. Но готовы ли мы были по ней идти?

Дискуссия вокруг «Советчика» Маккарти не закончилась в 1959 году. Она расколола зарождающееся сообщество исследователей ИИ на два лагеря, чьё противостояние определило развитие всей области на десятилетия вперёд. Если Маккарти и его единомышленники верили в силу чистой логики и явного знания, то их оппоненты, выступили с неожиданной и глубокой контраргументацией.

Селфридж, по сути, заявил, что Маккарти слишком много доверяет формальной логике. «В моём опыте, — сказал он, — выводы всегда делаются из ложных посылок. Я никогда не слышал, чтобы кто-то делал правильные выводы из правильных посылок». Этот парадоксальный тезис бил в самую суть. Человеческое мышление не работает как безупречный логический движок. Мы постоянно действуем в условиях неполноты, неточности и противоречивости информации. Наш «здравый смысл» — это не набор аксиом, а сложный кокон из эмпирических правил, аналогий, догадок и умения игнорировать нерелевантное. Селфридж отметил, что многие люди прекрасно живут, вообще не используя дедуктивную логику в её формальном виде. Критерий истины для системы — не логическая безупречность, а практическая работоспособность: «будет ли она делать то, что я хочу?»

К концу той памятной дискуссии очертились два фундаментальных подхода к созданию искусственного разума.

Первый путь — Символический ИИ (логика и знания). Это путь Маккарти. Его последователи в 1970-80-х годах создали «экспертные системы» — программы, которые кодировали знания врачей, геологов или химиков в виде тысяч правил «ЕСЛИ-ТО». Язык Пролог стал воплощением мечты о машине, которая вычисляет, доказывая теоремы. Этот подход добился впечатляющих, но узких успехов. Он мог диагностировать специфическую инфекцию или конфигурировать сложный компьютер, но был хрупким как хрусталь: за пределами чётко очерченной области знаний система терялась. Главная проблема, которую так и не удалось решить, — это проблема масштабирования. Как вручную загрузить в машину все тривиальные факты о мире, которые знает даже ребёнок? Как формализовать, что жидкость из опрокинутой чашки прольётся, а не зависнет в воздухе? «Проклятие социализации знаний» оказалось крепче любых логических построений.

Второй путь — Коннекционизм и машинное обучение (опыт и статистика). Это путь, обоснованный скепсисом Бар-Хиллела и претензиями Селфриджа. Вместо программирования знаний сторонние архитекторы предлагали создавать системы, которые учатся на данных. Нейронные сети, вдохновлённые устройством мозга, не требуют явных правил. Им показывают миллионы фотографий, и они сами настраивают свои внутренние связи, чтобы отличать кошку от собаки. Этот подход долгое время находился в тени из-за нехватки вычислительных мощностей и данных, но в 2000-х гг. он породил породив современную революцию ИИ.

Кажется, победил второй путь. GPT, DALL-E, беспилотные автомобили — всё это детища машинного обучения, а не символьной логики. Но так ли это на самом деле?

Парадокс современного ИИ в том, что он, кажется, обошёл спор 1959 года. Большие языковые модели поражают способностью генерировать связный текст и даже рассуждать, но в их основе лежит статистика, а не понимание. Они могут выдать безупречный силлогизм, но также с лёгкостью «галлюцинируют», выдавая убедительную ложь. Им по-прежнему не хватает того самого контекстуального здравого смысла, о котором говорил Маккарти. Она не строит внутренней модели мира с его причинно-следственными связями.

Сегодня самые передовые исследования пытаются синтезировать оба подхода. Нейро-символический ИИ — это новая надежда. Идея в том, чтобы объединить способность нейросетей учиться на сырых данных (как предлагал путь №2) с возможностью символьных систем выполнять логический вывод и оперировать знаниями (как мечтал Маккарти в пути №1). Нейросеть может извлекать паттерны и факты из текста, а логический движок — проверять их на непротиворечивость и делать выводы. Это попытка дать машине и «интуицию», и «разум».

Таким образом, спор 1959 года опережал своё время и крайне актуален даже в наше. Маккарти был прав, указав, что без способности к абстрактным рассуждениям и манипуляции знаниями истинный интеллект невозможен. Его критики были правы, заявив, что эти знания невозможно исчерпывающе прописать вручную, а логика должна быть гибкой и приспосабливаемой.

Мечта Маккарти о программе со здравым смыслом жива. Просто путь к ней оказался длиннее и извилистее, чем можно было представить в 1959 году. И, возможно, конечная система, которая сможет, получив факт «машина дома», самостоятельно прийти к выводу «надо дойти до машины», будет использовать нейросеть, чтобы понять контекст задачи, и логический движок, чтобы построить план, — тем самым наконец-то примирив два великих подхода, родившихся в той далёкой и жаркой дискуссии.

А пока, давайте немного отойдём от специфики ИИ и вернёмся к истории Маккарти-учёного. Нас ждёт уникальная Компьютерная партия Коток-Маккарти. СССР против США, учёный против учёного, компьютер против компьютера!

Источник: vk.com

Комментарии: