Почему искусственный интеллект не будет выполнять все наши команды?

Математик Александр Жданов об определении искусственного интеллекта, моделях мозга и электронных рабах Какие существуют определения искусственного интеллекта? Можно ли назвать искусственным интеллектом калькулятор? Как на развитие искусственного интеллекта будет влиять окружающая среда? На эти и другие вопросы отвечает доктор физико-математических наук Александр Жданов.

Давайте поговорим о том, что собой представляет интеллект. Сейчас очень важная, актуальная тема в современной науке — это построение систем искусственного интеллекта. По существующему определению таковым именем называется следующая система — это игровые компьютеры, шахматные компьютеры, это системы перевода с одного языка на другой, это управление робототехническими устройствами, экспертные системы, нейронные сети. Еще какие-нибудь близкие к этому системы называются системами искусственного интеллекта.

Под этим подразумеваются те системы, которые выполняют такие работы, которые раньше мог выполнять только человек. Действительно, играть в шахматы мог только человек, или, допустим, переводить с одного языка на другой мог только человек, а сейчас сделали машину. При этом до того момента, когда такая машина создана, всегда считается, что, если мы ее сделаем, это, безусловно, будет настоящий интеллект. Как только машина готова, появляется шахматный компьютер, переводчик — интерес к ней пропадает, и уже люди с сомнением говорят о том, что это искусственный интеллект. Даже простой калькулятор, который с большой точностью считает числа, умножает, делит, извлекает квадратные корни, — в прошлом веке никаких бы сомнений не было, что это искусственный интеллект.

Как же обстоит дело на самом деле? Мне кажется, тут есть некоторые заблуждения. Они состоят в следующем. Где мы видим интеллект в природе? Интеллект в природе мы видим у человека. С некоторой натяжкой некоторые ученые склонны считать, что интеллектом обладают какие-то млекопитающие, обезьяны, некоторые птицы и так далее. О том, обладают ли интеллектом кошки, собаки, мышки-норушки и так далее — уже вопрос спорный, это вызывает некоторые дискуссии и возражения.

Но я бы хотел утверждать следующую вещь: интеллект человека, как мы его понимаем, — это последовательное развитие интеллектов организмов, начиная с более простых и завершая человеком. Более того, играть в шахматы умеют далеко не все люди, доказывать теоремы и знать математику могут далеко не все люди, переводить с языка на язык тоже могут далеко не все люди. Каждый раз это проявление некоторого топика, наблюдающегося у очень интеллектуальных людей.

Почему мы хотим сразу сделать программу или компьютер, который будет делать то, что могут делать далеко не все люди, а какие-то очень продвинутые: математики, доказывающие теоремы, шахматисты, играющие в шахматы? Мне кажется, это некоторое заблуждение. Более того, человек, знающий высшую математику, — это нетипичный человек. Согласитесь, что все великие математики с какими-то странностями немножко.

Более важным было бы создать интеллект таким, как мы его видим у живых организмов, — слово «интеллект» пока опустим, — создать модель мозга, модель нервной системы, основным свойством которых является способность обучаться, то есть адаптивность, и продемонстрировать, что эта модель мозга способна к адаптации, к самообучению, к развитию. И пусть она начинает с самых простых вещей: с выработки каких-то навыков управления, с возможности поиска каких-то стереотипов поведения, с возможности приспособления к окружающей среде, с поиска каких-то эффективных действий, движений и так далее. То есть продемонстрирует свою способность к самообучению, к адаптации.

Если мы дадим этой программе, этой машине количественные возможности, то есть достаточно большой объем памяти, достаточно мощный алгоритм быстродействия и так далее, то тогда мы увидим, как она постепенно, шаг за шагом, обучается, и мы увидим, как она может научиться ходить, может научиться управлять автомобилем, может научиться разговаривать, то есть появится язык, и, может быть, в конце мы увидим, как такой интеллект способен будет научиться играть в шахматы, если это очень кому-то нужно, и его можно будет как-то сопоставить с человеком. Но не надо сразу моделировать последний шаг.

Если интеллект естественный и человеческий представляет собой вершину некоторой пирамиды, то я вас уверяю, что игра в шахматы — это самая вершина этой пирамиды. И если мы будем моделировать только это, то у нас получится самый высокий кирпичик, стоящий на тоненькой ножке без пирамиды, который будет уметь играть в шахматы. Понятно, что пользы от него, кроме как игры в шахматы, никакой не будет. Надо создавать всю эту пирамиду. Пускай она будет маленькая, но пусть она растет и обучается.

Гораздо важнее создать самообучаемый алгоритм, а не демонстрировать высшие достижения человечества.

Хотелось бы обратить внимание, что, когда мы говорим о задаче создать искусственный интеллект, мы немножко лукавим. Почему? Потому что мы хотим создать фактически систему, которая будет полезна нам, то есть выполнять наши команды, которой мы можем поручать какие-то сложные интеллектуальные задачи, и она будет их выполнять. Мы будем ему говорить: реши эту задачу, докажи эту теорему, и он ее решит, и мы в этом склонны видеть искусственный интеллект.

Берем любую зверюшку — кошку, мышку, — безусловно, они обладают интеллектом в моем понимании, потому что они решают такие сложнейшие задачи управления, которые нам не снились. Они самообучаются, распознают очень сложные ситуации, сцены, образы, принимают решения, адаптируются к обстановке, воспитывают своих детей, общаются и так далее. Но мы не можем создать ничего похожего на эту мышку, на эту кошку. Если мы это создадим, это и будет настоящий интеллект, и дадим ему возможность развиваться, тогда мы получим то, что надо.

Но лукавство состоит в том, хотим ли мы создать такой интеллект или не хотим. Давайте вообразим себе результат. Мы включаем компьютер и говорим ему: «Проложи маршрут из точки А в точку Б». Компьютер говорит: «Знаешь, я сегодня еще не завтракал, и вообще у меня другие желания, и я хочу заняться своими проблемами». Это естественная реакция для живого организма. Вы же не можете любого человека взять и заставить, принудить его решать вашу задачу. Он, может быть, согласится, а может быть, нет, потому что у него есть естественное право выбора, у него есть свои желания, свои целевые функции. Тогда вы скажете: «Зачем мне такой компьютер, который не будет меня слушаться?»

Так вот вопрос: что вы хотите создать? Интеллект, похожий на естественный? Тогда он будет вам возражать и будет заниматься своими проблемами. Или вы хотите создать исполнителя любого вашего желания, который 24 часа в сутки без отдыха будет решать ваши задачи, а не свои? Это совершенные разные вещи. Потому что создать электронного раба просто, мы их создаем: калькулятор, компьютер могут считать 24 часа в сутки и делать то, что мы от них хотим. А создать организм, который будет жить по своим целям, и вам надо будет еще найти с ним общий язык, — то ли это, чего мы хотим, говоря о том, что мы хотим создать искусственный интеллект, или не то?

Поэтому я бы хотел ввести классификацию, связанную со словами «искусственный интеллект». Первая задача — создать модель нервной системы мозга живого организма, демонстрирующего, собственно говоря, интеллект, который мы видим. Его демонстрируют люди, сложные и не очень сложные животные. Создать такую модель, такую систему с такими свойствами — это отдельная задача. Она будет обладать теми свойствами, о которых я говорил: способностью к самообучению, к своей воле, к своим целям, она не всегда будет слушаться вас и будет жить своей жизнью так, как живет любой живой организм. Это одна задача. Я бы такую систему назвал системой автономного искусственного интеллекта. Почему автономного? Потому что она живет самостоятельно, не в соответствии с вашими приказаниями, подобно любому живому организму.

Другой класс систем искусственного интеллекта — это электронные рабы, то есть машины, которые будут решать задачи, которые мы от нее хотим. Как она будет устроена — это уже совершенно неважно, лишь бы она играла в шахматы, продавала билеты, прогнозировала погоду либо что-то еще. Как она устроена, какое это отношение имеет к естественным нервным системам мозга — это совершенно безразлично. Это и есть те системы, которые сейчас разрабатываются и которые называют системами искусственного интеллекта. Делайте их как хотите, лишь бы они вас устраивали. Это, собственно говоря, вторая задача.

И может быть третья задача — это не столько строить модели, сколько понять, как это все работает в природе. Потому что есть один важный момент, о котором надо обязательно сказать: даже если мы построим систему автономного искусственного интеллекта, способную к самообучению, то надо понимать, что, прежде чем она станет по мощности, по своим проявлениям сравнима с человеком, ей нужно пройти огромный, длительный путь эволюционного развития. Нет ни одного алгоритма самообучения или адаптации, обладающего такой мощностью, чтобы он с нуля обучился каким-то поведенческим актам, поведению, сравнимому с человеком. Любой самообучаемый алгоритм обладает очень маленькой мощностью.

Очень многое определяется какими-то ограниченными условиями, рамками и так далее. Эти рамки надо как-то ему дать, они являются результатом работы адаптивных алгоритмов другого уровня. Есть филогенез, онтогенез, есть развитие индивида, вида и так далее. Возьмите любого человека, у него же все очень приспособлено под те условия, в которых он живет. Это набор его датчиков, набор его исполнителей, физические параметры, в которых он существует, все уже приспособлено миллионами предыдущих лет этой эволюции. И без них никак не обойтись. Если мы создадим искусственный мозг, его нужно долго и долго обучать. Чем этот процесс заменить — это отдельная задача. А без этого никакого интеллекта, сравнимого с человеком, не будет.

Автор: Александр Жданов

Источник: postnauka.ru

Комментарии: