«Искусственный интеллект не станет по-настоящему "умным", пока не поймёт причинно-следственных связей»

Перевод материала Брайана Бергштейна из MIT Technology Review — о том, что не умеет ИИ и кто пытается это исправить.

Искусственному интеллекту не стать умнее, пока он не поймёт концепт причинно-следственных связей. Это даже не всем людям дано.

Всего за несколько лет компьютеры научились диагностировать заболевания, переводить тексты и расшифровывать речь. Они выигрывают у людей в сложных стратегических играх, создают фотореалистичные изображения и заканчивают за человека предложения в письмах. Однако несмотря на эти достижения, у искусственного интеллекта есть недостатки.

Системы машинного обучения легко обмануть или сбить с толку незнакомыми сценариями. Алгоритм беспилотного автомобиля не знает, как реагировать на вещи, с которыми водитель-человек легко справится. ИИ, который обучали выполнять определённую задачу (например, различать кошек), необходимо обучить выполнению другой задачи (различать собак) заново.

Все недостатки ИИ существуют потому, что искусственный интеллект не понимает причинно-следственных связей. Система видит, что одни вещи связаны с другими, но не понимает, что одни вещи непосредственно вызывают другие. Как если бы вы знали, что если небо затянуто тучами, с большей вероятностью пойдёт дождь, но не понимали, что именно из туч идёт дождь.

«Понимание причинно-следственных связей — важный аспект того, что человечество называет здравым смыслом, и это область, в которой системы искусственного интеллекта сегодня “невежественны”», — говорит Элиас Барейнбойм.

Его утверждению можно доверять: как директор новой лаборатории причинно-следственных связей искусственного интеллекта (Caual Artificial Intelligence Lab) Колумбийского университета, он находится в эпицентре решения этой проблемы.

Его идея в том, чтобы обогатить исследования в области искусственного интеллекта знаниями из относительно новой науки причинно-следственных связей — области, в огромной степени сформированной Джудой Перлом, лауреатом премии Тьюринга.

Как утверждают Барейнбойм и Перл, способность ИИ выявлять корреляции, например, то, что появление туч делает вероятность дождя выше, — простейший уровень понимания причинно-следственных связей. Но его оказалось достаточно, чтобы за последнее десятилетие произошёл бум технологий искусственного интеллекта на основе глубокого обучения.

Учитывая большое количество данных об известных ситуациях, с помощью этого метода можно делать вполне надёжные прогнозы. Компьютер может вычислить вероятность, есть ли у пациента с определёнными симптомами то или иное заболевание, потому что знает, как часто тысячи людей с такими же симптомами заболевали.

Но всё больше учёных сходятся во мнении, что прогресс ИИ замедлится, если компьютеры не станут лучше понимать причинно-следственные связи. Если бы машины могли понять, что одни вещи могут вызывать другие, им не пришлось бы всё время учиться заново — они могли бы просто взять то, что узнали в одной области, и применить это в другой.

А если бы компьютеры могли пользоваться здравым смыслом, мы могли бы больше доверять различные задачи и не переживать, что те совершат ошибки.

Современный ИИ весьма ограничен в понимании результата того или иного действия. В системе обучения с подкреплением сигналами от среды взаимодействия технике, которая позволила компьютерам овладеть шахматами и го, система широко использует метод проб и ошибок для определения, какие ходы приведут к победе.

Но в реальном мире с неидеальными условиями такой подход не работает, компьютер не может даже в общих чертах понять, как играть в другие игры.

Ещё более высокий уровень причинно-следственного мышления — способность рассуждать, почему что-либо произошло, а также задавать вопрос «А что, если...»

Например, пациент умирает во время клинических испытаний. Это вина экспериментального лекарства или нет? Средние результаты школьных экзаменов становятся хуже. Какие реформы улучшат их? Такого рода рассуждения выходят далеко за рамки современных возможностей искусственного интеллекта.

Мечта наделить компьютеры причинно-следственным мышлением заставила Барейнбойма переехать в США из Бразилии в 2008 году, после получения им степени магистра компьютерных наук в Федеральном университете Рио-де-Жанейро. Он ухватился за возможность учиться у Джуды Перла, специалиста в области компьютерных наук и статистики Калифорнийского университета в Лос-Анджелесе.

Перлу 83 года, и он гигант науки причинно-следственных связей. Его карьера помогает понять, почему так трудно создать искусственный интеллект, который мыслит категориями причины и следствия.

Даже квалифицированные учёные склонны принимать взаимосвязь за причинно-следственную связь или, наоборот, не решаться признавать причинно-следственную связь даже тогда, когда она очевидна.

Например, в 1950-е годы несколько именитых статистиков не признавали, что табак вызывает рак. Они утверждали, что без эксперимента, в котором людям случайно будут предписаны роли курильщиков и некурящих, нельзя исключить возможность того, что некий стресс или, возможно, ген, приводит как к курению, так и к раку лёгких.

В конце концов, тот факт, что курение вызывает рак, был окончательно доказан, но это не должно было занимать столько времени. С тех пор Перл и другие статистики разработали математический подход к определению того, какие факты потребуются, чтобы обосновать причинно-следственную связь.

Метод Перла показывает, что, учитывая частоту заболевания курильщиков раком лёгких, существование независимого фактора, который вызывает и то, и другое, крайне маловероятно.

Метод Перла также помогает определить, когда корреляцию нельзя использовать для оправдания наличия причинно-следственной связи. Бернхард Шелкопф, исследующий технологии развития причинно-следственной связи в ИИ на должности директора немецкого Института интеллектуальных систем имени Макса Планка, указывает, что рождаемость в стране можно предсказать, если знать популяцию аистов в этой стране.

Это можно сделать не потому, что аисты приносят детей или дети привлекают в страну аистов, но вероятно потому, что экономическое развитие приводит к появлению большего числа и детей, и аистов. По словам Шелкопфа, Перл помог дать статистикам и специалистам в области компьютерных технологий способы решения подобных проблем.

Исследования Перла также привели к разработке каузальных Байесовых сетей — программного обеспечения, которое обрабатывает большие объёмы данных, чтобы найти переменные, которые, скорее всего, оказывают наибольшее влияние на другие переменные.

Компания GNS Healthcare из Кембриджа, штат Массачусетс, использует этот метод для консультирования исследователей по экспериментам, которые выглядят многообещающими. GNS работала вместе с исследователями над одним проектом по изучению множественной миеломы, разновидности рака крови.

Ученые хотели выяснить, почему некоторые пациенты с этим диагнозом живут дольше других после пересадки им стволовых клеток. Программа обработала данные с 30 тысячами переменных и указала на некоторые из них, которые казались наиболее вероятными кандидатами на наличие причинно-следственной связи.

Биостатистики и эксперты в области миеломы в итоге остановились на одном: уровне определённого белка в организме пациента. После этого исследователи смогли запустить узконаправленное клиническое испытание, чтобы определить, действительно ли пациенты с этим белком в теле получают больше пользы от лечения.

«Это намного быстрее, чем сидеть и гадать в лаборатории», — говорит соучредитель GNS Ия Халил.

Тем не менее прогресс, которого Перл и другие учёные достигли в теории причины и следствия, ещё не принёс значительных успехов в методах глубокого обучения, которые выявляют взаимозависимость, но не видят причинно-следственной связи. Барейнбойм работает над следующим этапом: сделать компьютеры более полезными инструментами для исследования причинно-следственных связей у людей.

Одна из разработанных им систем, которая сейчас находится в бета-версии, может помочь учёным определить, достаточно ли у них данных, чтобы ответить на каузальный вопрос. Ричард МакЭлрет, антрополог Института эволюционной антропологии имени Макса Планка, использует эту программу для исследования причин менопаузы у человека (это единственный примат, у которых она присутствует).

Гипотеза заключается в том, что снижение рождаемости у пожилых женщин принесло пользу ранним человеческим обществам, потому что женщины, которые прикладывали больше усилий для ухода за внуками, в конечном счёте, имели больше потомков.

Но какие сегодня могут быть доказательства утверждения о том, что детям полезнее находиться в окружении бабушек и дедушек? Антропологи не могут просто сравнить достижения в области образования или здоровья детей, которые жили с бабушками и дедушками, с теми, кто рос без них.

Вмешиваются факторы, которые специалисты по статистике называют «вмешивающимися»: бабушки, возможно, с большей вероятностью живут с внуками, которым больше всего нужна помощь.

Программа Барейнбойма может помочь МакЭлрету различить, в каких исследованиях о детях, выросших с бабушками и дедушками, вмешивающиеся факторы присутствуют в меньшей степени, а значит — поможет ответить на его каузальный вопрос.

Барейнбойм говорит быстро и часто взмахивает двумя руками, словно пытается уравновесить две стороны мысленного аргумента. Я приехал к нему в Колумбийский университет в октябре, в середине семестра, но казалось, что он только что переехал в свой кабинет: стены почти пустые, на полках совсем немного книг, только изящный Mac и белая доска, вся исписанная уравнениями и диаграммами, напоминающая деталь из мультфильма о сумасшедшем профессоре.

Он отмахнулся от вопроса о необжитости кабинета, сказав, что был очень занят, рассказывая об обеих сторонах революции в науке о причине и следствии. Барейнбойм считает, что его работа дает возможность не только научить причинно-следственному мышлению машины, но и усовершенствовать его у людей.

Заставить людей внимательнее задумываться о причинно-следственных связях ненамного легче, чем обучить машины мыслить причинно, утверждает он. Исследователи во многих областях, от молекулярной биологии до государственной политики, иногда довольствуются корреляциями, в основе которых отсутствует причинно-следственная связь.

Например, некоторые исследования предполагают, что употребление алкоголя убьёт человека раньше времени, в то время как другие говорят: умеренное потребление неопасно и даже полезно. Ещё одно исследование показывает, что люди, которые много пьют, живут дольше непьющих вообще.

Это явление, известное как «кризис воспроизводимости», присутствует не только в медицине и нутрициологии, но и в психологии и экономике. «Сами видите, как ненадёжны все эти умозаключения, — говорит Барейнбойм. — Каждые пару лет мы получаем новый результат».

Он утверждает, что любой, кто спрашивает «Что, если...» — доктора, проводящие клинические испытания, социологи, разрабатывающие пилотные программы, веб-издатели, готовящие A/B-тесты, — должен начать не со сбора данных, а с использования причинно-следственной логики Перла и программного обеспечения вроде того, что изобрёл Барейбойм.

Он надеется, к появлению в будущем программ-«учёных»: человек разрабатывает причинно-следственный вопрос, а программное обеспечение при помощи теории причинно-следственных связей и методов машинного обучения помогает человеку исключить проведение экспериментов, которые не дадут ответа на этот вопрос. Это помогло бы учёным избежать траты дорогостоящих ресурсов.

Барейнбойм рассказал об этом в фойе Школы менеджмента Слоуна при Массачусетском технологическом институте.

По его словам, это слишком ограниченный подход, потому что учёные-люди, проводящие эксперимент, могут учитывать в своём сознании лишь несколько переменных одновременно. А вот компьютер может видеть взаимодействие сотен или тысяч переменных.

Учёный-компьютер, в коде которого заложены основные принципы причинно-следственного вычисления Перла, способный узнать, что может произойти при новом наборе переменных, может предложить, на какие именно эксперименты должны потратить свое время исследователи-люди.

Возможно, какую-то государственную практику, которая работает только в Техасе, можно было бы использовать в Калифорнии, уделив больше внимания нескольким причинно-следственным факторам. «Ученые больше не будут “проводить эксперименты в темноте”», — говорит Барейнбойм.

Пройти эту финишную прямую, вероятно, придётся с помощью технологий, которые только начинают развиваться. Иошуа Бенджио, компьютерный специалист из Монреальского университета, один из лауреатов премии Тьюринга 2018 года, пытается научить нейронные сети, программы, лежащие в основе глубокого обучения, методу «мета-обучения» — определять причины событий.

Чтобы нейросеть определяла, когда человек танцует, нужно показать ей много изображений танцоров. Чтобы она определяла, когда человек бежит, нужно показать ей много изображений бегунов. Система научится отличать бегунов от танцоров, выявляя особенности каждой группы изображений, например, положение пальцев и рук человека.

Но Бенджио указывает на то, что фундаментальные знания о мире можно получить, анализируя несколько массивов данных и находя похожие между собой, или «инвариантные» вещи. Возможно, нейросеть сможет понять, что физические движения ног вызывают как бег, так и танец.

Может быть, увидев эти и многие другие примеры, которые показывают людей, находящихся на высоте всего в несколько сантиметров от земли, машина в конце концов поймет что-то о гравитации и о том, как она ограничивает человеческие движения.

Со временем, при достаточном количестве мета-изучения переменных, одинаковых в разных массивах данных, компьютер может получить причинно-следственные знания, которые можно было бы многократно использовать во многих областях.

Перл утверждает, что ИИ не может быть по-настоящему «умным», пока не сможет полноценно понять причинно-следственные связи. Хотя лишь причинно-следственного мышления недостаточно для искусственного интеллекта общего уровня, оно необходимо, говорит он, потому что это позволило бы ИИ рефлексировать, то есть проводить процесс, лежащий в основе познания.

«Вопросы категории “Что, если...” являются структурными элементами науки, моральных установок, свободы воли, сознания”, — утверждает Перл.

Перл отказывается строить прогнозы о том, сколько времени понадобится компьютеру, чтобы получить полноценные способности к причинно-следственному мышлению. «Я не футуролог», — говорит он.

Тем не менее Перл убеждён, что первым шагом должна стать разработка средств машинного обучения, сочетающих данные с имеющимися научными знаниями: «В наших мозгах содержится много информации, которую мы совершенно не используем».