Главное понятие кибернетики — Михаил Бурцев

Что общего у систем автонаведения зенитных установок и квантовой механики, как кибернетику можно использовать в экономике и почему даже компьютерам важно иметь цель? Лекция нейрофизиолога Михаила Бурцева — одна из историй гида «Рассеянные люди», посвященного научным открытиям еврейских ученых XX века. Этот проект мы подготовили в партнерстве с Российским еврейским конгрессом.

Одним из основных понятий кибернетики является понятие об обратной связи. И оно трансформировало очень многие научные направления, после того как было предложено и рассмотрено Норбертом Винером в его книге «Кибернетика», в частности социологию, экономику, физиологию. Но одно из наиболее сильных влияний оно оказало на область искусственного интеллекта.

Норберт Винер свою карьеру ученого начал с логических оснований науки. Но после того, как он столкнулся с результатами Геделя о неполноте формальных систем, он понял, что в действительности мы не сможем создать логически непротиворечивое основание науки. И здесь сыграли роль его взгляды на философию науки как на более прагматичную вещь, когда знание — это нечто, что может приносить пользу, может отдавать какой-то реальный результат. А появление тогда основ квантовой механики, в которые была заложена уже заранее некоторая степень неопределенности, привело к тому, что он стал воспринимать науку как некоторое построение теорий на основе вероятностных процессов, то есть описание некоторых вероятностных процессов при помощи некоторых теорий.

И в начале войны он начинает работать над задачей автоматического управления зенитными установками, задачей автонаведения. Он построил модель, которая позволяла, например, по двадцати отсчетам положения самолета предсказать еще десять будущих отсчетов, где этот самолет может находиться. Потому что, если мы говорим про системы автонаведения зенитной установки, она должна предсказывать движение самолета в будущем, ведь за то время, пока снаряд долетит до самолета, этот самолет изменит позицию.

И очевидно, что как раз в этой задаче совпало очень многое из того, что Винера интересовало. С одной стороны, это стохастичность и вероятностность этого процесса. Потому что у нас есть наводчик, который вносит помехи, — он тоже может не очень точно прицеливаться и не очень точно измерять траекторию движения самолета в предыдущие моменты времени. С другой стороны, сама установка может обладать какими-то помехами. И самолет тоже может менять свою траекторию. И мы должны найти наиболее вероятное его положение, а точно мы его положение предсказать не можем.

Здесь на первый план выходят те основные концептуальные идеи, которые являлись основой для решения практических задач и использовались Винером, в частности, для создания автонаводящихся систем. Это понятие об обратной связи. Фактически это основное понятие кибернетики. Что значит обратная связь? Это значит, что если мы будем рассматривать систему в виде черного ящика, у которого есть некоторый вход и некоторый выход, и мы можем сделать так, что мы часть выхода этого черного ящика можем направлять на его вход после некоторого преобразования, то мы таким образом введем обратную связь, которая будет управлять поведением этой системы.

Так, например, если мы будем усиливать сигнал с выхода черного ящика, то есть мы каждый раз к тому, что поступает на вход этого черного ящика, будем прибавлять с каким-то коэффициентом то, что было на выходе черного ящика, то очевидно, что выход этого черного ящика будет все нарастать и нарастать. Это значит, что у нас существует так называемая положительная обратная связь. И если у нас на вход подается некий периодический сигнал, это может приводить к усилению амплитуды колебаний. И такая положительная обратная связь используется в усилителях.

С другой стороны, чем большие значения выхода у этого черного ящика мы будем каким-то образом вычитать из входа, мы будем ослаблять входной сигнал. Таким образом, мы будем ослаблять и выходной сигнал. То есть это отрицательная обратная связь — тот процесс, который приводит к очень положительным результатам во многих областях, связанных с социологией или, например, с экономикой. Потому что он говорит о том, что существуют отношения между частями системы, которые позволяют ей стабилизироваться. То есть фактически мы можем настраивать систему с обратной связью и получать требуемые значения выхода. Если у нас есть какие-то отклонения, система будет их гасить.

Понятно, что в системах автоматического наведения это использовалось для того, чтобы погасить шум и правильно предсказать положение цели. А в других системах это может использоваться при передаче информации или для того, чтобы фильтровать сигнал. А в экономике — для того, чтобы создавать какие-то системы, в которых будет положение устойчивого равновесия, которое даже при некотором шуме, если участники каких-то экономических отношений будут отклоняться от типового поведения, например пытаться обмануть друг друга, все равно будет позволять системе работать стабильно. Фактически это идея о том, что мы можем строить системы, которые будут устойчивы и, таким образом, обладать в некотором смысле предсказуемым поведением.

До конца жизни Норберта Винера кибернетика становится основным научным направлением, над которым он работает. Но также мы видим, что он активно продолжает свою общественную деятельность, так как видит, что есть кибернетические системы, которые могут обладать целенаправленным поведением. Что он подразумевает под целенаправленным поведением? Очевидно, что если у нас есть обратная связь, то она приводит к тому, что выход системы стабилизируется у какого-то значения. И для Винера это значение, в которое мы хотим перевести нашу систему, превращается в понятие цели. Он говорит, что телеологический подход к построению системы является очень важным, а ведь это и есть управление: мы должны задать цель системы и действия, чтобы она этих целей достигала.

И если мы можем делать такие системы, которые могут автономно достигать целей, то очевидно, что они могут заменить человека в каких-то приложениях. И Винер видит, что возникает новая революция: если индустриальная революция была связана с использованием энергии, которая превышает человеческие усилия, и это привело к созданию станков, фабрик и так далее, то благодаря кибернетике мы теперь можем создавать с помощью компьютеров такие системы, которые будут усиливать интеллект человека. И значит, человек начинает управлять некоторыми интеллектуальными силами. И за счет этого он сможет по аналогии с заменой ручного труда частично заменить и интеллектуальный труд. Встает вопрос: что станет с человеком? Винер пытается в своих книгах обсуждать эту проблему: что делать, если компьютеры будут захватывать все больше и больше интеллектуальной деятельности?

В какой-то момент оказалось, что не было ядра ученых, которые бы целенаправленно развивали эту дисциплину, и фактически Винер остался один и пытался продолжить ее не только как чисто математическую, формальную дисциплину и не только как применение ее к каким-то различным биологическим или социологическим феноменам, но пытался синтезировать это все вместе. И фактически с его смертью кибернетика распалась на много различных дисциплин. С одной стороны, это теория управления, которая больше относится как раз к телекоммуникационным системам и компьютерам. С другой стороны, та часть, в которой он исследовал и пытался смоделировать мозг как некоторую систему с обратной связью, пошла через английскую школу кибернетики и задала базу как раз для искусственного интеллекта и нейронных сетей. А те работы, которые связаны с экономикой и социологией, привели к возникновению теории систем, а в физиологии — к когнитивным наукам.

На Западе сама по себе кибернетика как научная дисциплина уже не рассматривается. Хотя забавно, что в Советском Союзе изначально было отрицательное отношение к кибернетике и говорилось, что это буржуазная идеалистическая лженаука. Потом, когда стало понятно, что она может быть использована, в частности, в военных целях и для автоматического управления, интерес к ней очень возрос. И кибернетика нашла очень большую поддержку в Советском Союзе, потому что Колмогоров, его идеи и задачи, над которыми он работал в начале своей карьеры, были очень похожи на те задачи, над которыми работал Винер, связанные с теорией множеств и теорией вероятности. До сих пор у нас в МГУ есть факультет математики и кибернетики. И в России кибернетика до последнего времени рассматривалась как научная дисциплина. Хотя на Западе наиболее близкой к ней, наверное, сейчас является Computer Science в общем виде.

И сегодня мы находимся в парадоксальной ситуации. Мы видим, что для решения тех задач, которые видел перед кибернетикой Винер, нам необходимо строить системы с обратной связью, которые будут достигать некоторых целей. Но при этом, несмотря на то что такие системы управления с отрицательной обратной связью, например, используются в робототехнике, для того чтобы стабилизировать траектории движения роботов, до сих пор нет хорошего способа, который мог бы сочетать в себе, например, нейросети и планирование. Когда мы задаем цель именно в виде конкретной траектории или в виде конкретной последовательности действий, тогда фактически задача становится более-менее тривиальной. Но когда мы переходим к более сложной постановке задач, когда у нас есть какая-то конечная цель, но мы не знаем промежуточные этапы достижения этой цели, это становится сложно. Я думаю, как раз это причина того, почему кибернетика как бы заглохла, она не смогла развиваться, потому что решение этой задачи она не смогла найти.

Сейчас эта задача активно исследуется в области машинного обучения и искусственного интеллекта под именем обучения с подкреплением, когда у нас есть некоторая цель, мы можем задать достижение этой цели через определенную систему наград и эти награды как раз используются в виде сигнала обратной связи в процессе обучения системы. Здесь еще важно, что у Винера обратная связь задавалась изначально инженером. Она не выучивалась в процессе взаимодействия со средой. И это как раз было слабым моментом этой теории. Потому что очевидно, что мы хотим иметь систему, которой мы поставим задачу, но мы хотим, чтобы она сама эту задачу решила. Мы не хотим описывать последовательность действий, необходимых для решения этой задачи.

И как раз сегодня, когда в области искусственного интеллекта мы видим, как в последние несколько лет начинают преобладать нейронные сети, встает вопрос о том, как нам задавать цели этой системы, можем ли мы построить такую нейросетевую архитектуру, которая может цель декомпозировать, учиться в процессе взаимодействия со средой ставить себе подцели. Это как раз одна из наиболее интересных областей сегодня, связанная с иерархическим обучением с подкреплением.

Источник: postnauka.ru

Комментарии: