Будущее искусственного интелекта

Как узнать, что человечество уже порабощено искусственным интеллектом. В гостях у ведущего передачи «Вопрос науки» Алексея Семихатова директор по распространению технологий Яндекса Григорий Николаевич Бакунов.

Искусственный интеллект — это такая неприятная игра слов. У человечества нет четкого жесткого определения, что такое интеллект вообще. Я перед передачей специально пошел посмотреть в Википедию в надежде увидеть там короткое определение, что такое интеллект.

После прочтения первых пяти абзацев, стало понятно, что определения нет, его просто не существует, поэтому мы вольны говорить, что «это интеллект или не интеллект», опираясь исключительно на наше субъективное представление о нашей реальности. Я искренне считаю, что даже в текущей своей реализации искусственный интеллект — это интеллект. Но еще мы можем поговорить об интеллекте муравьев, например.

Даже для того, чтобы сейчас смоделировать нейронную сеть — давайте, для простоты возьмем какую-нибудь небольшую мышку, — мы пока недостаточно развиты как цивилизация

Мы как человечество были близки к тому, чтобы думать об искусственном интеллекте, уже 50 лет назад. Математический аппарат был готов 40 лет назад совершенно точно. И человечество все эти годы просто училось создавать те компьютеры, которые смогут совладать с этим математическим аппаратом. Вся тема нейронных сетей активней всего развивалась в 80-е годы. Глобально с тех пор мы не изобрели нового математического аппарата. Дело в том, что тогдашние компьютеры были чрезвычайно медленными, были совсем другие представления о разумных объемах памяти. Сейчас телефоны, которые мы используем, на несколько порядков мощнее, чем самый мощный компьютер 80-х годов. И это позволило совершить нам такой скачок вперед.

Обратите внимание, мы ведь, говоря про нейронные сети, почти всегда говорим, что мы близки к тому, чтобы моделировать естественные процессы, которые происходят в нейронных сетях органического происхождения. И даже для того, чтобы сейчас смоделировать нейронную сеть — давайте, для простоты возьмем какую-нибудь небольшую мышку, — мы пока недостаточно развиты как цивилизация. Это невероятно глубокая сеть с огромным количеством связей между слоями, и мы не знаем всю сложность этой конфигурации, мы пока очень далеки от этого, и, может быть, будет правильно, если человечество не будет пытаться имитировать естественную жизнь. Но тем не менее, мы, развиваясь как цивилизация, постепенно приближаемся к тому, чтобы так или иначе скопировать какие-то простые живые организмы, которые обладают интеллектом.

Уже сейчас есть попытки, такие прототипы, которые позволяют изолировать, убрать работу программиста из этой области, т.е. создать такую систему искусственного интеллекта, которая по вашему описанию будет создавать новый искусственный интеллект. Вы говорите: «Я хочу такую систему искусственного интеллекта, которая отвечает за меня на телефонные звонки». И она автоматически строит некую конфигурацию, хорошо понимая, как этот искусственный интеллект должен работать.

Человек определяет правила игры для этой нейронной сети. Правила игры для самоездящего автомобиля выглядят как правила дорожного движения плюс сообщение о том, что ты должен наилучшим образом доехать из точки А в точку Б. То, что происходит дальше, вполне возможно переложить на саму нейронную сеть, мы можем вообще ее не обучать, мы можем представить себе такую конструкцию, которую обучать не надо.

С каждым шагом мы стараемся уменьшить влияние человеческого вклада в появление искусственного интеллекта, мы стараемся как можно больше всего автоматизировать, т.е. на самом деле превратить в систему искусственных интеллектов, которая строит другие искусственные интеллекты

Мой любимый пример — AlphaGo, это история позапрошлогодняя, но ее очень приятно рассказывать. Напомню, там была такая история: ребята из команды «DeepMind» сделали компьютер, который выигрывает у человека в го. У лучших людей: сначала у человека, который занимал третье место, потом у человека, который занимал первое, но это не очень важно. Как они этого добились?

Первые их попытки были не очень удачными. Они много раз пробовали классический метод обучения, т.е. взяв все партии человечества, все накопленные данные о сыгранных людьми партиях, они пытались на этом обучить компьютер (что такое хорошо и что такое плохо). Очень быстро стало понятно, что этих данных не просто недостаточно, а слишком мало. Человечество накопило слишком мало данных для того, чтобы его обучить. Там всего-то несколько миллиардов партий, там ерунда какая-то. Что они сделали в результате? Они описали правила игры в го для компьютера и сказали: «Вот две нейронных сети, играйте друг против друга просто до потери пульса». И они так и играли несколько миллионов часов друг против друга. Результатом стала нейронная сеть, которая обучена обыгрывать кого угодно. И что самое главное, она не унаследовала те исторические ошибки, которые совершают люди, обученные на партиях других живых людей.

С каждым шагом мы стараемся уменьшить влияние человеческого вклада в появление искусственного интеллекта, мы стараемся как можно больше всего автоматизировать, т.е. на самом деле превратить в систему искусственных интеллектов, которая строит другие искусственные интеллекты. Это задача почти любого программиста. Любой программист знает, что вместо того, чтобы делать что-то руками, лучше один раз написать программу, которая сделает это за тебя. В идеале я, как программист, хотел бы, чтобы у меня было такое окошко для ввода текста, а лучше даже голоса, куда я прихожу и говорю: «Мне нужен искусственный интеллект, который вместо меня решает задачи за моего шестиклассника-сына». И сама система, услышав какие-то важные для нее ключевые слова, понимая слова, зная историю, какие другие искусственные интеллекты были построены по таким задачам, строит такую конфигурацию сети, такое устройство мозга, которое максимально оптимизировано для решения именно этой задачи.

У искусственного интеллекта Фейсбука есть одна только задача — максимизировать количество просмотров самого Фейсбука. Таким образом, эта система в идеале должна находить, знакомить вместе и заставлять жениться тех людей, которые произведут потомство максимально склонное к потреблению Фейсбука

С практической точки зрения (я часто люблю говорить эту фразу) мы пришли к классической чудовищной картине из фантастических произведений, когда система искусственного интеллекта управляет производством людей, т.е. возможно они уже занимаются евгеникой, мы ничего про это не знаем. Ведь если на секунду задуматься…Давайте представим себе, что люди знакомятся исключительно благодаря Фейсбуку. Это значит, что Фейсбук сводит вместе, т.е. показывает человеку А контент человека Б, а у искусственного интеллекта Фейсбука есть одна только задача — максимизировать количество просмотров самого Фейсбука. Таким образом, эта система в идеале должна находить, знакомить вместе и заставлять жениться тех людей, которые произведут потомство максимально склонное к потреблению Фейсбука. Возможно, что мы уже порабощены.

Давайте сделаем на секундочку шаг назад. У меня есть очень любимая история про муравьев. Я искренне считаю, что муравьи это лучший пример для того, чтобы понимать, как устроено человечество, потому что у них огромное количество специализаций, они очень сложно устроены и часто производят впечатление супер-разумного организма. Один из моих любимых примеров: представьте, что где-то есть муравейник, к нему есть традиционная муравьиная дорожка, и на дальней части дорожки мы закрепляем леску, прокидываем ее вверх, так чтобы около муравейника за нее была зацеплена чашка с сахарным сиропом. Если подергать за ниточку далеко от муравейника, то будет капать сироп. Это реальный пример, реальный эксперимент. Муравьи бегут к дальней нитке дергать за эту нитку, а другие муравьи собирают этот сахарный сироп.

А мозгов нет. И больше того — те, которые дергают, не получают позитивного подкрепления в виде сахара. Как это происходит? Почему это происходит? Это гениально. Это зафиксированный эксперимент. И если бы этим экспериментом занимались исключительно энтомологи, как это было с конца 90-х по начало 2000 гг., все были бы уверены в коллективном интеллекте. Оказалось, что все очень просто. У муравьев есть несколько специализаций. Одна из них заключается в том, что если на тропинке появилась нитка, то ее надо дергать, а другие, просто увидев еду, тащат ее в муравейник. Глядя на человечество так же, ты понимаешь, что есть огромное количество людей и огромное количество функций, которые мы выполняем, потому что так устроен социум. Современный социум базируется на технологиях, мы намертво привязаны к технологиям. И мы не знаем, что произойдет с человечеством, если мы перестанем дергать за веревочку, в смысле перестанем регулярно обновлять Фейсбук или любую другую социальную сеть. Мне кажется, что мы уже в той стадии, когда искусственный интеллект вокруг нас. Мы просто это не так сильно замечаем, как нам хотелось бы.

Сейчас человек совершеннее, как система, просто в силу того, что тот биологический компьютер, который в нас построен, сейчас в среднем мощнее, чем те железки, которые мы можем производить сами. Мы просто еще не научились производить настолько совершенные, настолько большие компьютеры. Это вопрос времени, вопрос первого десятилетия.

Помните времена, когда лошади управляли повозками? По факту лошадь — это типичный образец белкового интеллекта, ее тоже может понести, она может совершить что-то глупое, и, по началу, с искусственным интеллектом будет такая же история

Современные искусственные интеллекты базируются на аппаратном обеспечении, ну, я бы сказал, небольших грызунов. И тем не менее мы научили небольших грызунов выигрывать у людей в игру, которая считается одной из самых сложнейших для моделирования.

У нас нет определения интуитивности, у нас нет определения интуиции, но то, что мы построили компьютер, который выигрывает у человека в го… Он играет так же, как человек, он оценивает текущую позицию, не делая логических выводов (то, что я сейчас сделаю такой ход сейчас, потом сякой, пятый десятый). Он просто оценивает благоприятность партии после того, как он совершит новый ход, насколько новая позиция интуитивно лучше, т.е. правильней говорить, что тот искусственный интеллект, который мы сейчас строим, он гораздо более интуитивен, чем человеческий.

Помните времена, когда лошади управляли повозками? Я не знаю, как вы, а я плохо помню, я тогда был крайне мал, но по факту лошадь — это типичный образец белкового интеллекта, ее тоже может понести, она может совершить что-то глупое, и, по началу, с искусственным интеллектом будет такая же история. При этом здесь есть важное отличие. Мне кажется, что все, что делает искусственный интеллект можно зафиксировать, сложно проследить, конечно, почему он так сделал.

Решение для этой проблемы нашел, как мне кажется, великий русский писатель Виктор Пелевин. Теперь уже можно так говорить, он безусловно велик. У него было произведение, это серия рассказов, которая называлась «Ананасная вода для прекрасной дамы». В одном из произведений он описывал систему искусственного интеллекта, которая летала на беспилотнике и, говоря прямым текстом, убивала плохих людей. Чтобы объяснить, почему она выбрала именно этого человека, как плохого, была создана другая система искусственного интеллекта, которая объясняла действия первой. И по-честному, я уверен, что в человеческой голове происходит примерно то же самое, что мы на самом деле много своих действий выполняем интуитивно и приходим потом к какому-то логическому объяснению, почему я сделал вот так. Я сейчас говорю, я же не задумываюсь над каждым словом. Я думаю, что с искусственным интеллектом произойдет такая же история. Мы будем просто строить искусственные интеллекты, которые объясняют действия других искусственных интеллектов, ведь в конце концов здесь причина и следствие не очень важны. Самоездящая повозка сбила человека. Плохо? Плохо. Важно ли при этом объяснить, почему это произошло? Наверное, можно взглянуть на дорогу и сказать, что человек сам выпрыгнул или еще каким-то образом, а по большому счету нам просто нужно какое-то внятное объяснение. Если мы это внятное объяснение дадим, значит все хорошо. Если нет, значит компания, которая произвела эту самоездящую повозку, попадает на огромные штрафы.

Я вообще не уверен, что будущие системы искусственного интеллекта базируются на нейронных сетях. Мы не знаем, как будет происходить прогресс. Возможно, человечество откажется от нейронных сетей как от чего-то, что просто морально устарело, но по факту мы все равно двигаем человечество в направлении построения полноценного искусственного интеллекта. Так устроена наша жизнь.