Слуга, друг или хозяин: кем станет искусственный интеллект для человечества

Специалистам в области создания искусственного интеллекта человеческого уровня сегодня приходится решать не только научные, но и этические проблемы. Какие вызовы стоят перед учеными? Как обезопасить человечество от потенциальных угроз, которые несет создание сверхмощного разума, и остаться людьми в новом мире? Об этом корреспонденту проекта "Социальный навигатор" МИА "Россия сегодня" Анне Курской рассказал профессор Института интеллектуальных кибернетических систем Национального исследовательского ядерного университета "МИФИ" (ИИКС НИЯУ МИФИ) Алексей Самсонович.

- Алексей Владимирович, наш разговор проходит в рамках Международной конференции "Биологически инспирированные когнитивные архитектуры" BICA 2019. Какие темы дискуссий сегодня выходят на первый план в связи с созданием искусственного интеллекта человеческого уровня?

- Конференция позволила нам еще раз осознать основные вызовы в области создания искусственного интеллекта следующего поколения, который должен стать равным партнером и другом человека.

Во-первых, вызовом можно считать создание эмоционального интеллекта человеческого уровня, способного задействовать эмоции в процессах принятия решений и генерации поведения. В частности, это качество позволит машине устанавливать долговременные социальные связи, подобные отношениям между близкими людьми. Оно также позволит ей обосновывать свои действия и решения, выбирать цели и способ обучения.

Эмоциональный интеллект – это ключ к ответам на остальные вызовы. Он не сводится только к способностям распознавать и выражать эмоции, которыми сегодня заняты большинство исследователей, работающих в данной области. Хотя оба эти процесса необходимы, гораздо важнее и труднее понять связь одного с другим, которую и обеспечивает эмоциональный интеллект.

Во-вторых, интеллектуальный агент должен понимать контекст происходящего. Это означает, что он должен на основе доступной ему информации самостоятельно генерировать и непрерывно обновлять глобальный сценарий прошлого и будущего, определять свою роль в нем, и далее на этой основе ставить перед собой конкретные цели и вырабатывать планы их достижения.

В научной литературе данную способность принято называть "нарративным интеллектом" (не следует путать его с программами, работающими по заранее написанному человеком сценарию, или нарративу).

- Есть и третий вызов?

- Им станет реализация активного обучения искусственного интеллекта, который, подобно человеку, сам вырабатывает систему ценностей, мотивирующую процесс обучения, сам формирует цели и дорожную карту обучения, сам выбирает средства (например, эксперименты для проверки гипотез, поиск доступных ресурсов или вопросы к человеку), и, движимый собственной инициативой, применяет эти средства для достижения цели. При этом машина должна быть способна самостоятельно развиваться от уровня ребенка до уровня взрослого человека и далее, до сверхинтеллекта.

Это третье направление можно было бы назвать "интеллектом обучения человеческого уровня" (human-level learning intelligence), чтобы отличить его от "глубокого обучения" и других видов машинного обучения, популярных сегодня. В моем понимании, интеллект обучения человеческого уровня станет возможным на основе эмоционального и нарративного интеллекта.

- Какие исследования вы сейчас проводите? Как продвигается ваша работа по созданию виртуальных помощников человека и по моделированию эмоционального интеллекта?

- Мы занимаемся моделированием эмоционального интеллекта человека с целью разработки социально совместимых виртуальных помощников человека на основе наших моделей.

Мы рассматриваем широкий спектр конкретных задач и направлений исследований. Например, это создание виртуального партнера в видеоигре; виртуального координатора или модератора; виртуального креативного ассистента композитора, хореографа, дизайнера, ассистента решателя инсайтных задач; виртуального слушателя (в перспективе – виртуального собеседника); а также виртуального домашнего животного, сопоставимого с реальным по своим социально-эмоциональным характеристикам.

Результаты здесь трудно изложить в деталях, но их можно найти в наших открытых публикациях. При всей широте наших попыток и успехов, нам нужен прорыв на одном направлении: в доказательстве практической ценности общей модели эмоционального интеллекта человека, воплощенной в интеллектуальном агенте.

Недавно наша лаборатория BICA Lab на кафедре Кибернетики в НИЯУ МИФИ обогатилась новыми методиками исследования, включая экспериментальную платформу на основе виртуальной и смешанной реальности (с отслеживанием направления глаз испытуемого), а также электромиографии и автоматического анализа выражений лица, позволяющих нам регистрировать эмоции испытуемых, погруженных в виртуальные окружения. Большая часть наших работ сейчас проводится с использованием этих технологий. В некоторых экспериментах используются также ЭЭГ и фМРТ.

Наша ближайшая сверхзадача – доработка и эмпирическая валидация социально-эмоциональной когнитивной архитектуры "Эбика" (eBICA) и создание на ее основе эффектных демонстраций. Эта работа ведется в НИЯУ МИФИ при финансовой поддержке гранта РНФ № 18-11-00336.

- Недавно стартап Илона Маска Neuralink заявил о разработках, которые в перспективе могут сделать человека киборгом, способным управлять компьютером силой мысли. Насколько это направление исследований кажется вам перспективным?

- В моем понимании, искусственный интеллект должен стать, с одной стороны, равноправным партнером и другом человека, а с другой, расширением нормальных или заменой утраченных человеческих возможностей, включая средства на основе прямого интерфейса с мозгом человека.

В этом случае человек буквально смог бы использовать компьютер или микрочип как часть своего мозга. И то, и другое, нацелено на благо и должно быть целиком подконтрольно его создателю. Я желаю всяческих успехов Илону Маску.

- Насколько велика необходимость в разработке средств противостояния искусственному интеллекту?

- Я думаю, что в нашу эпоху средства искусственного интеллекта останутся подконтрольными человеку, хотя бы в силу их зависимости от их обслуживания человеком и обеспечения их всем необходимым. Если кто-то и сможет их обратить против человека, то только сам человек. Тогда следует рассматривать вопрос о противостоянии тем людям.

Не секрет, что искусственный интеллект прежде всего нужен военным. Сегодня, как и раньше, создаются новые средства нападения и защиты. Но особенность нашего времени в том, что и те, и другие включают в себя искусственный интеллект. В этом смысле необходимость в разработке средств противостояния велика и для некоторых стран является первоочередной с финансовой точки зрения.

- Что нас ждет после создания искусственного интеллекта, превосходящего человеческий? Будем ли мы сосуществовать с машинами или объединимся в некое единое целое?

- Искусственный интеллект станет, и уже становится, неотъемлемой частью человеческой цивилизации. При этом все же возможны два пути: наследование искусственным интеллектом наших ценностей, чаяний и идеалов, или же замена их "машинными ценностями", распространяющаяся не только на машины, но и на людей. Какой из этих двух путей реализуется – зависит от нас.

- Что значит оставаться людьми в эпоху искусственного интеллекта?

- Остаться людьми в эпоху искусственного интеллекта – это значит реализовать первый путь.

По материалам ria.ru

Комментарии: