«Искусственный интеллект не сможет сравниться с естественным в изобретении нового»

Борис Кобринский, доктор медицинских наук, заведующий лабораторией Института современных информационных технологий в медицине ФИЦ ИУ РАН, профессор Российского национального исследовательского медицинского университета им. Н. И. Пирогова.

— В чем различие интеллекта искусственного и человеческого? Справедливо ли вообще называть ИИ интеллектом?

— Естественный интеллект характеризуется многочисленными функциями. Часть из них реализуется в системах ИИ, но главным отличием естественного интеллекта от искусственного является способность синтезировать новые знания, выявлять неизвестные закономерности. Искусственный интеллект — это устоявший термин, однако связанный с не совсем точным переводом с английского. Artificial Intelligence означает «умение рассуждать разумно». Создаваемые на этой основе системы более корректно называть системами с элементами искусственного интеллекта.

— Можно ли говорить, что искусственный интеллект — не более чем орудие человеческого?

— Вряд ли стоить говорить в такой формулировке. Интеллектуальные системы являются консультативными или ассистирующими в принятии решений человеком.

— Было бы важно дать читателю популярное описание математического аппарата, на котором работает ИИ. И что он собой представляет с точки зрения чисто технической: просто мощные суперкомпьютеры? Или нужны какие-то специальные средства и устройства?

— Большинство систем ИИ с самого начала опирались не на математический аппарат, а на логику с использованием средств для диалога с пользователем на естественном языке (логико-лингвистические системы), чего не умели предшествующие вычислительные системы. В настоящее время гибридные интеллектуальные системы включают наряду с логикой также и различные математические методы анализа. Но обязательным для интеллектуальных систем является база знаний, содержащая формализованные знания для конкретной области, для чего используются различные языки представления знаний. Для работы этих систем используются обычные компьютеры. Суперкомпьютеры лишь позволяют ускорить обработку данных, что важно для динамических систем реального времени — например, в управлении двигателями космического корабля и существенно, например, для прогнозов погоды. Исключением являются нейросети, в которых осуществляется математическая обработка введенной информации, однако отсутствует аргументация и логика решений, отсутствуют база знаний предметной области и объяснение выдвигаемых гипотез (решений). Но нейросетевой подход — это технология, имитирующая до некоторой степени работу мозга, истинное представление о которой пока остается открытым.

— Мы не понимаем (по большому счету), как работает мозг человека. А полностью ли сейчас понятно, как работает ИИ? Или уже появились такие как бы черные ящики, где происходит нечто неопределенное?

— Полноценные интеллектуальные системы, как уже отмечено выше, характеризуются как раз тем, что пользователь получает объяснение выдвигаемых системой гипотез как в процессе их рассмотрения, так и по завершении работы (окончательная гипотеза). Черными ящиками являются нейросети, не выдающие объяснений.

— Есть шутка, что ИИ на известную школьную риторику «а если все прыгнут с пятого этажа, ты тоже прыгнешь?» ответит: «да». Насколько это шутка? Каковы вообще когнитивные возможности искусственного интеллекта, будут ли они когда-нибудь сопоставимы с человеческими?

— Роботов обучают по-разному, но имеется подход, основанный на обучении на примерах. Если его использовать, то теоретически можно было бы добиться, чтобы робот не в шутку прыгал с любого этажа. Но он разобьется и больше не прыгнет. В то же время когнитивные способности систем на основе ИИ растут. Но взвешенная оценка говорит о том, что искусственный интеллект не сможет сравниться с естественным, по крайней мере, в изобретении нового. Мы не знаем, как человек изобрел колесо, аналогов которого в природе нет. Как обучить подобному ИИ. Новое знание возникает в мозге далеко не каждого человека.

— Теперь более практический вопрос: в каких сферах ИИ надежно заменит человеческий? Где у него будет преимущество? Где он никогда не сравнится с человеком? Например, есть ли шанс, что он справится с одной из открытых проблем математики — скажем, докажет алгебраическую независимость чисел ? и е?

— ИИ способен быстро перебирать различные варианты, он может заменить человеческий или обеспечить помощь человеку во многих областях с известным или понятным подходом к принятию решений: в анализе данных с учетом многообразных связей, в выборе оптимальных решений, в мониторинге ситуаций и управлении; роботы могут выполнять различные работы (в трудных условиях, в доме, на производстве, в здравоохранении и др.). Интеллектуальные системы поддержки принятия решений будут помощниками людей. Роботы заменят их во многих работах, где можно построить алгоритмы действий человека. Возможно, что и в математике, при доказывании теорем, ИИ сможет в перспективе решать сложные задачи. Но вновь должен отметить, что ему будет недоступно открывать принципиально новые направления в науке.

— Возможны ли сообщества искусственных интеллектов? Взаимопомощь и осознание общих интересов?

— Да, сообщества представителей ИИ и их взаимопомощь возможны. Это развитие сегодняшних многоагентных систем — виртуальных сообществ интеллектуальных агентов, каждый из которых взаимодействует с другим, и имеются агенты более высокого уровня, координаторы и наблюдатели, обеспечивающие изменение программы взаимодействия интеллектуальных агентов.

— Появятся ли у искусственного интеллекта творческие способности? Наитие?

— Если под творчеством понимать развитие известного, то да, если создание совсем неизвестного ранее, то нет. Наитие следует отнести к последнему. А вот ассоциативные связи уже имеют место в системах ИИ.

— В частности, врачебную интуицию, о которой у вас есть работы, может заменить ИИ?

— Интеллектуальные системы, основанные на экспертных знаниях высококвалифицированных врачей, обладающих интуицией и образным мышлением, могут включать интуитивные представления в том случае, когда их удается извлечь для формирования базы знаний. Мой опыт показывает, что этого можно достигнуть при групповом извлечении знаний за счет вскрытия врачебной интуиции одного эксперта путем вопросов к другим экспертам при умелом управлении дискуссией.

— Конкуренция искусственных интеллектов — страновая или на уровне компаний — насколько она жесткая? Каково место России в гонке ИИ?

— В явном виде конкуренции между странами нет. Может быть, можно говорить об ученых, которые следят за работами друг друга. На уровне компаний это связано с получением финансовых средств на разработку и/или на получение прибыли по законченным работам. В России период 70-х — начала 90-х годов прошлого века сопровождался созданием большого числа систем и интересными теоретическими разработками. Последующее недофинансирование работ в этой области привело к спаду. Хотя работы не остановились. Рассматривая в качестве примера медицину, приходится отметить, что, несмотря на неоднократные заявления о необходимости таких систем, их финансирование практически отсутствует, за исключением работ по грантам в системе РАН. Положительными примерами в этой области могут служить разработки Федерального исследовательского центра «Информатика и управление» РАН (интеллектуальная система в области здоровьесбережения, ориентированная на управление рисками при инфаркте миокарда, инсульте и депрессии, и интеллектуальные системы автоматизированной поддержки медицинских исследований, реализованные на основе ДСМ-метода автоматического порождения гипотез) и Института автоматики и процессов управления ДВО РАН (диагностика болезней пищеварения и другие, реализованные на основе онтологий).

— Опишите, пожалуйста, какие угрозы несет с собой развитие ИИ.

— Мне представляется неправильным говорить об угрозах искусственного интеллекта. Опасность может нести применение искусственного интеллекта в устройствах, работающих рядом с людьми или заменяющих персонал, например в больницах. Недоучет факторов, которые могут приводить к травмам окружающих, следует рассматривать как основную угрозу в настоящее время и в будущем. Это касается и автопилотов, и систем контроля различных производственных процессов, обеспечения функционирования так называемых умных больниц.