Появление разума можно и не заметить

Естественный разум появился не скачкообразно, а в результате долгого постепенного развития живых систем. Не исключено, что так же будет развиваться и искусственный интеллект

Доктор физико-математических наук, профессор РАН, заведующий кафедрой машинного обучения и цифровой гуманитаристики МФТИ, заведующий кафедрой математических методов прогнозирования ВМК МГУ Константин Воронцов

Анастасия Каплина

При поддержке гранта Минобрнауки России в рамках федерального проекта «Популяризация науки и технологий» (075-15-2024-571 от 14.05.2024) готовится выпуск сборника «За науку: ученые о… человеке, мире, математике (Прорывы в российской науке)», в который войдет данная статья. Параллельно она выходит в журнале «Стимул».

Разумен ли искусственный интеллект? Не замахнулись ли разработчики на роль Бога? Нужен ли общий искусственный интеллект человеческой цивилизации? Чем опасен искусственный интеллект в эпоху постправды и информационных войн? Об этом рассказывает Константин Воронцов, доктор физико-математических наук, профессор РАН, заведующий кафедрой машинного обучения и цифровой гуманитаристики МФТИ, заведующий кафедрой математических методов прогнозирования ВМК МГУ, заведующий лабораторией машинного обучения и семантического анализа Института искусственного интеллекта МГУ, представитель замечательной школы ушедшего от нас в позапрошлом году академика РАН Юрия Журавлева. 

— Константин Вячеславович, в своих лекциях и интервью вы говорите, что ИИ не интеллект, а его имитация. Что вкладывается в понятие интеллекта и в чем имитация недотягивает? Насколько велики различия?

— Искусственный интеллект — это не объект и не субъект, а название множества технологий, придуманное Джоном Маккарти перед знаменитым дартмутским семинаром 1956 года. Тогда оно обозначало мечту ученых об отдаленном будущем, в котором компьютерные программы будут решать сложные интеллектуальные задачи, до сих пор посильные только людям. Замечу: не что-то конкретное, уже сконструированное, а нечто абстрактное, про что даже не ясно, может ли оно быть создано в будущем. Прошло почти семьдесят лет, но ИИ принципиально остается тем же самым — общим названием множества разрозненных технологий и мечтой ученых об умных программах. Хотя, надо отдать должное, эта мечта стала принимать все более реальные очертания именно в последние годы, причем ускоренными темпами.

— То есть ИИ это не есть что-то разумное? 

— Мы пока не можем толком определить, что такое разум или интеллект. Раньше нам казалось, что между человеком и остальным животным миром — пропасть. Мы разумны, они нет. Но в последнее время биологи находят у многих видов животных все больше отдельных признаков разумного поведения. И это не только обезьяны, но и дельфины, врановые и даже осьминоги. Отличие человека в том, что он обладает более мощным мозгом и многие признаки разумности проявляются в сочетании. 

Мы все лучше понимаем, как работают отдельные нервные клетки и мозг в целом. Но окончательно определить, что есть разум или интеллект и чем это отличается от не-разума или не-интеллекта, наука пока не в состоянии. Возможно, разум появляется по мере увеличения количественных характеристик нейронной сети — числа нейронов, числа связей, глубины связности. Момент перехода нейронной сети из состояния не-разума в состояние разума невозможно определить однозначно. По мере увеличения размера сети растет объем памяти и появляется все больше новых (эмерджентных) способностей. 

Мы не наблюдаем четкого момента появления разума в антропогенезе. В наше время мы не видим переходных форм от обезьяноподобных к человеку просто потому, что нашим с вами предкам повезло уничтожить всех конкурентов, кто выглядел хоть сколько-нибудь разумным. Именно поэтому переход от не-разума к разуму в живой природе кажется нам скачкообразным. Но на самом деле он был непрерывным. Этот переход и в других аспектах непрерывен. Например, мы не можем уверенно диагностировать наличие или отсутствие разума у больных с дегенеративными заболеваниями мозга. Точно так же мы не сможем однозначно идентифицировать момент появления разума в искусственных нейронных сетях. Кое-что компьютеры делают лучше людей, и уже давно, но в чем-то они еще долго будут уступать нашим возможностям. Это не удивительно при таких колоссальных различиях в «элементной базе». 

Да, мы называем некоторые компьютерные программы искусственным интеллектом. Но это лишь условная договоренность. К естественному биологическому интеллекту они не имеют отношения. Это совершенно разные явления, которые ни при каких обстоятельствах нельзя сравнивать, ставить на одну полку, подменять одно другим или считать разновидностями общего понятия «интеллект».

 В наше время мы не видим переходных форм от обезьяноподобных к человеку просто потому, что нашим с вами предкам повезло уничтожить всех конкурентов, кто выглядел хоть сколько-нибудь разумным. Именно поэтому переход от не-разума к разуму в живой природе кажется нам скачкообразным

Легче и честнее вообще отказаться от попыток дать четкое определение разуму или интеллекту, признать эти понятия донаучными, а на языке естественных наук говорить лишь о сочетании способностей живой или неживой системы решать те или иные задачи. Соизмеряя возникающие возможности и угрозы с целями и задачами человеческой цивилизации, которую мы строим с помощью знаний и технологий. 

Термин «искусственный интеллект» неудачен тем, что он вводит массы людей в заблуждение. Пока он не выходил за пределы научной среды, все было нормально. Ученые прекрасно понимают всю условность терминов, которые они сами же и придумывают. Плохо, когда профессиональная терминология попадает в информационное пространство без должных объяснений, популяризации идей, смыслов и истории развития, обрастая необоснованными ожиданиями, предвзятостью, неуместными морально-этическими коннотациями, вплоть до массовых когнитивных искажений. 

— А как же способность ИИ к обучению, развитию, способность делать выводы из большого массива информации?

— Осьминоги способны вылезать из лабиринтов и открывать баночки из-под лекарств, причем они этому учатся сами, методом проб и ошибок, без родителей и учителей. Вороны научились с детских горок кататься ради удовольствия — сам наблюдал. Шимпанзе и медведи в цирке катаются на велосипедах, этому их учат дрессировщики. Многие животные-оппортунисты развивают у себя разнообразные навыки путем обучения в изменчивой внешней среде. Однако мы отказываемся называть все это интеллектом. 

С другой стороны, делать выводы из массива данных способны алгоритмы приближения функций. Карл Фридрих Гаусс в начале девятнадцатого века использовал метод наименьших квадратов для вычисления эллиптических орбит планет по астрономическим наблюдениям. Без всяких компьютеров, между прочим. Этот же метод мы сегодня используем для обучения искусственных нейронных сетей. Он, определенно, обладает способностью к обобщению на основе данных. Однако мы отказываем ему в праве называться интеллектом. Уже более двух столетий он для нас всего лишь численный метод приближения функций, восстановления зависимостей по экспериментальным данным. То есть с технологической точки зрения границы понятия «искусственный интеллект» тоже размыты. 

Сегодня мы уже считаем рутинными автоматическую проверку орфографии, игру в шашки, шахматы и даже в го, распознавание печатных текстов, поисковые системы, распознавание лиц, кредитный скоринг, голосовые помощники и многое другое. Однако на момент постановки эти задачи считались интеллектуальными и причислялись к ИИ. Памела Маккордак в книге 2004 года «Машины, которые думают» заметила: каждый раз, когда кто-то придумывал новый способ заставить компьютер делать нечто новое (например, играть в шашки), обязательно появлялись критики, которые говорили: «Это не мышление, а всего лишь вычисления». Это явление стали называть «эффектом ИИ» (AI effect). Каждый раз понятийная граница между «просто вычислением» и «магией искусственного интеллекта» отодвигалась в сторону еще не решенных задач. Есть даже такая метафора, называемая теоремой Ларри Теслера: «Искусственный интеллект — это те задачи, которые мы еще не научились решать». 

 Вообще, не существует самоцели создавать искусственный аналог человеческого интеллекта. Есть конкретные цели и задачи развития человеческой цивилизации. Логично сначала их определить, прийти к коллективному согласию в этих вопросах и отсюда выводить задачи развития технологий ИИ

— А как же большие языковые модели, ChatGPT — они тоже всего лишь вычисления?

— Иногда нам кажется, что большие языковые модели (БЯМ, они же LLM, Large Language Model) демонстрируют чудеса разумности. Однако они всего лишь извлекают сложные взаимосвязи между словами из терабайтов текстов, написанных человечеством. Что бы они ни делали, это лишь отголосок человеческого разума. Да, просто вычисления. Которые человек волен как запустить, так и остановить. 

Кое-что необычное все же произошло в последние годы. Впервые за семидесятилетнюю историю искусственного интеллекта вычислительный алгоритм приобрел навыки, которым его не учили в явном виде. Эмерджентные навыки проявились сами собой. Языковая модель GPT училась предсказывать слова в тексте по предыдущему контексту. Затем ее немного доучивали правильно выполнять инструкции в диалоге с людьми. И это все! Кажется чудом, что заодно она приобрела навыки изложения, сочинения, планирования, перевода с одних языков на другие, решения логических и математических задач, исправления собственных ошибок, поддержания диалога с человеком на любые темы. Не говоря уже о практически идеальной орфографии и грамматике. 

Эмерджентность — это то, что действительно впечатляет. В то же время она объяснима. Чем больше размер памяти у модели и объем данных, на которых ее обучают, тем больше навыков она приобретает. Несколько лет назад размер модели дорос до размера естественных языков во всем многообразии их употребления. Человеческий язык — мощнейший инструмент коммуникации, применяемый людьми для коллективного решения любых задач в изменчивой внешней среде. Модель научилась языку, пронаблюдав миллиарды ситуаций языкового употребления. Люди учатся общению похожим способом, с раннего детства. Нам, пожалуй, гораздо меньшего числа примеров вполне хватает. 

Получается, что наш интеллект тоже всего лишь вычисления. Плюс память, реализуемая в тысячах синаптических связей каждого из 86 миллиардов нейронов. По объему и энергоэффективности наша память лучше самых мощных суперкомпьютеров на несколько порядков. Но не это главное, так как через пару десятков лет этот разрыв, скорее всего, будет устранен. Главное — это миллиарды лет эволюции, естественного отбора по критериям выживания. В котором ключевую роль постепенно стала играть способность мозга к предсказательному моделированию окружающей среды и собственного поведения. Это и есть та самая уникальная невоспроизводимая ценность, которая ставит нас несоизмеримо выше любых создаваемых нами машин. Они просто никто в сравнении с такими грандиозными нами. 

Вообще, не существует самоцели создавать искусственный аналог человеческого интеллекта. Есть конкретные задачи автоматизации труда людей, в том числе интеллектуального. Есть конкретные цели и задачи развития человеческой цивилизации. Логично сначала их определить, прийти к коллективному согласию в этих вопросах и отсюда выводить задачи развития технологий ИИ. 

— Как будут развиваться эти технологии дальше? Не получится ли так, что рано или поздно мы уже не сможем отказать им в «разумности»? 

— Очертания прорыва ближайшего будущего в целом уже ясны. Следующее поколение моделей будет учиться не столько на текстах, написанных человечеством, сколько на потоках информации, поступающих из окружающего мира: видео, аудио, сигналы датчиков. Цель — научиться принимать решения в открытой изменчивой среде, в которой могут происходить какие угодно неожиданности. Модели внимания и адаптации, необходимые для этого, уже отработаны на текстах. Тексты тоже будут обрабатываться — главным образом ради поддержания коммуникации с людьми.

Будут ли такие автономные агенты общаться друг с другом для коллективного решения задач? Да, уже общаются. Смогут ли они вырабатывать для этого собственный язык? Да, уже вырабатывают; причем этот язык непонятен людям, что несколько пугает. Можно ли их заставить использовать для этой цели человеческий язык? Да, и это тоже сделано. Такие модели получили название сократических (Socratic models). Поскольку именно философская школа Сократа рассматривала язык как средство коллективного решения любых задач в любых ситуациях. Кажется, что это уже предельно похоже на интеллект… Но ведь и это всего лишь вычисления! 

 Учитель становится с маленькой буквы, он теперь проект на пару лет. От ученика более не ожидается преданности, а от учителя — «вкладывания души». Высокие материи уходят из культуры отношений. Хотя у моих коллег уже накапливается статистика, что наиболее успешные научные коллективы складываются как раз там, где традиции сохраняются

— Сейчас кажется, что ИИ проникает во все сферы нашей жизни, но что вас привлекло в этой науке более тридцати лет назад? Что повлияло на выбор профессии?

— Я выбрал это направление на втором курсе Физтеха. Во-первых, мой преподаватель по курсу вычислительной техники профессор Лев Николаевич Столяров, оценив мою реализацию алгоритма игры в реверси, порекомендовал идти на базовую кафедру Вычислительного центра РАН, в отдел Юрия Ивановича Журавлева. Во-вторых, я пользовался принципом неокончательных решений Габора. Правда, тогда я не знал, что это так называется, но считал, что при принятии решения нужно оставлять себе максимум свободы выбора для последующих решений. Базовая кафедра в ВЦ РАН была как раз такая. Там занимались очень разными задачами — от моделирования ядерной зимы, экономики и экологии до медицинской диагностики и распознавания образов.

В те годы в Москве уже существовали признанные научные школы распознавания образов: лаборатория, созданная Михаилом Моисеевичем Бонгардом в Институте проблем передачи информации, школы Айзермана и Вапника в Институте проблем управления, Дмитрия Александровича Поспелова, Гермогена Сергеевича Поспелова, Юрия Ивановича Журавлева в Вычислительном центре и в ряде других академических институтов. Юрий Иванович пару раз шутил, что «после отъезда Вапника в США мы тут неожиданно остались за главных». Он был неординарным организатором науки, умел собирать вокруг себя талантливых людей.

Константин Рудаков был великолепным математиком, при этом его теоретические работы всегда были мотивированы нуждами практики. Именно он придумал, как использовать теорию категорий — наиболее общий и абстрактный раздел математики — для описания того, что мы сейчас называем обучением ансамблей (ensemble learning). Это чисто практическая конструкция. Она стала необыкновенно популярной в мире после работ американцев Фройнда и Шапира в середине девяностых годов. Журавлев еще в семидесятые годы придумал свой аналог, алгебраический подход к распознаванию. Который стал обобщением предыдущего изобретения Журавлева конца шестидесятых годов — алгоритмов вычисления оценок. Знаменитых АВО, с помощью которых удавалось решать трудные задачи медицинской диагностики, экономического прогнозирования, распознавания месторождений золота, урана, нефти и других полезных ископаемых.

— То есть технологии ИИ использовались в России еще в шестидесятые?

— Тогда еще в мире мало кто этим занимался. Одна из историй, которую Юрий Иванович часто рассказывал в своих научно-популярных лекциях, связана с поиском на территории СССР месторождений золота редкого южноафриканского типа. Было только шесть известных примеров таких месторождений и около десятка похожих мест, где золота не нашли. Каждое место характеризовалось более чем сотней числовых признаков, полученных в результате геологических наблюдений и измерений. Сейчас мы такие задачи называем классификацией по малой обучающей выборке. Но тогда подходов к таким задачам просто не существовало. Коллеги Журавлева по математическому цеху советовали отказаться от проекта. С точки зрения классической науки тех лет — математической статистики и теории аппроксимации (приближения) функций — задача была абсолютно гиблой, нерешаемой в принципе. Слишком мало точек, слишком высокая размерность пространства признаков.

Тогда Юрию Ивановичу удалось изобрести алгоритм, основанный на попарном сравнении объектов, переборе признаковых подпространств низкой размерности и принципе голосования. Эти три эвристики были позже им объединены, обобщены и названы «алгоритмами вычисления оценок». С помощью АВО были решены десятки задач в самых разных областях. 

История с поиском золота имела один очень поучительный методологический урок, о котором Юрий Иванович редко рассказывал в широкой аудитории, но делился с нами в личных беседах и на семинарах отдела. Сам факт того, что геологическая информация была приведена к бинарному виду и сведена в общую таблицу всех признаков для всех объектов, помог геологам заметить некоторые важные закономерности практически вручную, а затем эти наблюдения удалось расширить и обобщить с помощью вычислительных методов. На этом этапе крайне важным был междисциплинарный диалог геологов, которые хорошо понимали природу данных, и математика, предложившего алгоритмизацию процесса анализа данных. Кстати, золото тогда действительно нашли, в двух местах на территории СССР — тех самых, которые предсказал алгоритм Журавлева. 

Начиная с шестидесятых годов методы машинного обучения использовали в СССР многие коллективы, и не только в Москве. Свои научные школы были в Ленинграде, Новосибирске, Киеве, Минске, Риге, Ереване и других научных центрах. Это было тесное научное сообщество. Все друг друга знали, постоянно ездили на семинары и конференции. Начиная с 1983 года коллектив Журавлева взял на себя организацию всесоюзных (затем всероссийских) научных конференций ММРО — «Математические методы распознавания образов». Они проводятся до сих пор, раз в два года, без перерывов на перестройку и «лихие девяностые», когда находить средства на организацию научных мероприятий было крайне тяжело.

 Константин Рудаков был великолепным математиком, при этом его теоретические работы всегда были мотивированы нуждами практики. Именно он придумал, как использовать теорию категорий — наиболее общий и абстрактный раздел математики — для описания того, что мы сейчас называем обучением ансамблей

— Каков сейчас путь в профессию? Как он изменился и чему сейчас надо учиться, чтобы стать дата-сайентистом, заниматься наукой о данных? 

— С одной стороны, все как и раньше. Мы занимаемся математическим моделированием. Это область прикладной математики, нацеленная на решение практических задач в самых разных отраслях. Рудаков называл это «неклассическим математическим моделированием». Традиции классического моделирования коренятся в физике. Там принято сначала построить теорию, которая даст модель явления в виде формулы. Затем собрать экспериментальные данные, чтобы по ним оценить параметры в этой формуле. В анализе данных все наоборот. Задача слишком сложна, теория напрочь отсутствует, адекватной модели нет и не предвидится, а решать надо. Зато есть результаты наблюдений, море данных. Тогда моделируется не само явление, а процесс преобразования информации о нем. Достаточно иметь универсальный аппроксиматор данных, такой как АВО, нейросеть или ансамбль решающих деревьев. Собственно, этим и занимается машинное обучение — неклассическая разновидность математического моделирования в условиях, когда задача трудная, знаний о предметной области не хватает, но зато есть много данных.

С другой стороны, за три десятилетия ландшафт профессии полностью изменился. Распознавание образов и машинное обучение из математических дисциплин стали инженерными. Раньше надо было придумывать новые методы, один другого лучше. Соревновались математические идеи, которые обрастали интересными приемами, эвристиками и теоретическими обоснованиями. Увы, этот увлекательный путь отчасти исчерпал себя. Методов придумано много тысяч. Даже когда появляются новые постановки задач, что само по себе редкость, мировое сообщество адаптирует к ним старые методы за считаные недели или даже дни. Для большинства методов программный код свободно доступен. Решение прикладных задач сводится к настройке и сравнительному тестированию готовых методов. Что требует знания их возможностей и ограничений, но позволяет обходиться без глубокого понимания их внутреннего устройства и математической теории. Это не хорошо и не плохо. Таковы реалии перехода на следующий уровень технологического развития. Мы же больше не изучаем цикл Карно, чтобы управлять автомобилем. 

Соответственно, по-новому надо готовить современных специалистов по анализу данных. По-прежнему нужны люди, способные решать нестандартные задачи и разрабатывать новые методы. Изобретать новые типы двигателей. Как говорится, «долго, дорого». Это элита, спецназ с усиленной математической подготовкой. Таких нужно относительно немного. Основная масса — инженеры, умеющие решать прикладные задачи «быстро, дешево». Для цифровизации российской экономики таких людей нужно несколько сотен тысяч. 

 Распознавание образов и машинное обучение из математических дисциплин стали инженерными. Раньше надо было придумывать новые методы, один другого лучше. Соревновались математические идеи, которые обрастали интересными приемами, эвристиками и теоретическими обоснованиями. Увы, этот увлекательный путь отчасти исчерпал себя

В процессе подготовки будущий инженер должен нарешать собственными руками и головой пару десятков задач из разных областей, с разным уровнем сложности. Чтобы в жизни быть готовым ко всякому. Но возникает проблема: где взять преподавателей и консультантов со столь разнообразным опытом? Даже лучшие инженеры-практики за всю свою профессиональную карьеру успевают погрузиться лишь в две-три предметные области, редко больше. 

Эта проблема имеет практическое решение, которое я теперь пропагандирую на всех площадках, где это возможно и уместно. Пора создавать общенациональную платформу или технологическую экосистему для преподавательского сообщества, где можно будет обмениваться задачами — наборами данных, моделями, кодом, тестами для контроля знаний, методическими материалами и преподавательским опытом. Такого добра много в интернете, но оно разрозненно и собирать его по крупицам тяжело. Работа, которую параллельно и неэффективно делают сотни начинающих преподавателей по всей стране. Нужна большая работа по унификации учебных задач и созданию централизованной инфраструктуры. Чтобы распространять лучшие практики из немногих «мест силы» по всем университетам и курсам дополнительного профессионального образования. Доступность практических материалов — одно из самых узких мест при масштабировании процесса подготовки дата-сайентистов.

— А ваши ученики? Как сейчас идет обучение?

— Здесь тоже многое изменилось за тридцать лет. Отношения между учителем и учеником претерпели кардинальные изменения. Раньше это было про передачу индивидуального мастерства, отношения к профессии и к жизни. Советская традиция была похожа на восточный подход — когда слова Учитель и Ученик оба с большой буквы. Студент приходит к Учителю, зная, что, если повезет, это будет мощный творческий союз на всю жизнь. В новых информационных условиях такие союзы не нужны. Появились новые возможности для наработки мастерства: можно пройти кучу курсов, поучаствовать в куче проектов на полгода-год каждый, повидать мир, напитаться мудростью тысяч учителей. Учитель становится с маленькой буквы, он теперь проект на пару лет. От ученика более не ожидается преданности, а от учителя — «вкладывания души». Высокие материи уходят из культуры отношений. Хотя у моих коллег уже накапливается статистика, что наиболее успешные научные коллективы складываются как раз там, где традиции сохраняются. 

— Это только наша проблема? 

— Не то чтобы даже проблема. Скорее общемировая тенденция к смене формата научных команд. Традиции передачи опыта от старших к младшим уступают место сетевому взаимодействию. Долгосрочные отношения между поколениями сменяются краткосрочными коллаборациями проектного типа. В новом формате труднее заниматься фундаментальными исследованиями, требующими стабильных коллективов и долгосрочного финансирования. И наоборот, стимулируются прикладные исследования, за которые готов платить бизнес, которые дают конкретные отраслевые решения и быстрый экономический эффект.

Фундаментальные знания не дают немедленных прибылей, но именно вокруг них формируется высокий уровень научной культуры, необходимый для прорывных открытий и технологического прогресса вдолгую. Обычный конфликт краткосрочных и долгосрочных целей. Чтобы вырастить успешную компанию, нужно инвестировать в несколько десятков стартапов, которые прогорят. Но если есть инвестиционная среда и инфраструктура, эти вложения будут более эффективны. Точно так же, чтобы достичь одного большого научного прорыва, необходимо вложиться в десятки научных коллективов, каждый со своей перспективной идеей. Чтобы эти вложения были эффективны, также нужна инфраструктура и среда для свободного обмена идеями. Идеи рождаются не в головах, а между головами. Для этого необходима критическая масса высокообразованных талантливых людей. И комфортная для них среда, из которой им не захочется уезжать за рубеж или переходить на работу в компанию. 

Есть еще одна общемировая проблема. Кажется, что в гонке за показателями и публикациями ученые растеряли значительную долю искренней любознательности и тратят слишком много времени и ресурсов на то, чтобы умело подавать себя и свои промежуточные микрорезультаты, раздувая их значимость интерпретациями. Такова научная культура эпохи постмодерна, в которой остается все меньше места для вдохновения, полета фантазии, бередящего душу острого желания понять суть вещей. 

Или вот еще один культурный сдвиг в научных сообществах. Что круто, а что не круто, чем заниматься, а чем заниматься не стоит в данной области — раньше определяли опытные учителя для своих учеников; эти важные вопросы обсуждались на научных семинарах. Теперь любой может найти пару десятков вариантов ответа за считаные минуты. Но кто эти лидеры мнений? Широкий поток коммуникаций — это скорее хорошо, потому что многие мнения будут услышаны, или скорее плохо, потому что трудно отделять поверхностные суждения от глубоко профессиональных? Не окажется ли, что потоки мнений формируются активными дилетантами, образуя информационные пузыри? Тоже общемировая фундаментальная проблема. Есть разные идеи, что с этим делать, но готовых ответов пока нет. 

Источник: stimul.online

Комментарии: