Восемь мифов об ИИ

«Люди живут в мире мифов. Мифы формируются на основе личного опыта или извлекаются из той среды, в которой человек живет… Мифологично не только бытовое знание. Научное знание столь же мифологично… Жрецы науки поддерживают миф о всесильности науки. Часть из них делает это искренне, веря в миф о всесильности, а остальные не утруждают себя критикой того, что дает им право на работу и высокое положение в развитом обществе».

Эти слова основоположника советской школы искусственного интеллекта Дмитрия Александровича Поспелова написаны в 1997 году. На тот момент искусственный интеллект (ИИ), как самостоятельное научное направление существовал уже более четверти века. И тогда казалось, что будущее данного направления за интеллектуальными системами для правдоподобной аргументации, концептуальными моделями предметных областей, порождением объяснений и пониманием текстов, поиском релевантных знаний и построением интеллектуальных обучающих систем на основе метазнаний. Об этом Д.А. Поспелов писал в вышедшей годом раньше работе «Десять “горячих точек” в исследованиях по искусственному интеллекту».

Увы, но почти ничего из того, о чем писал Д.А.Поспелов в этой статье, не произошло. А произошло то, чего он никак не предполагал.

По прошествию двух десятилетий ИИ превратился в самую мифологизированную область прогресса, вокруг которой формируется новая техно-религия всезнания больших данных и всемогущества машинного обучения.

Целью этой техно-религии провозглашен «прорыв в техно-сингулярность», где супер-ИИ решит все нерешенные проблемы человечества и дарует людям неистощимое здоровье, прорыв к заоблачным вершинам знаний и даже вечную жизнь среди цифровых облаков, куда будет выгружаться оцифрованное сознание человека.

Однако, не предвидя такого поворота, Д.А. Поспелов все же назвал его возможную причину. Перефразируя его слова из приведенной выше цитаты,—причина произошедшей мифологизации в интересах «жрецов ИИ», поддерживающих миф о его всесильности. «Часть из них делает это искренне, а остальные не утруждают себя критикой того, что дает им право на работу и высокое положение в развитом обществе».

Так оно и происходит. С каждым настоящим достижением в области ИИ мы наблюдаем параллельный рост шумихи, мифов, заблуждений и неточностей. Эти недоразумения способствуют непрозрачности систем ИИ, делая их в глазах общественности волшебными, непостижимыми и недоступными.

Цель проекта команды Даниэля Лойфера«Мифы об ИИ»—помочь распутать и развенчать некоторые из этих вводящих в заблуждение идей. Авторы проекта анализируют, как эти идеи появляются в средствах массовой информации, и указывают читателям высококачественные ресурсы для дальнейшего чтения.

Мне же остается, в качестве тизера этого проекта, кратко изложить структуру и свое представление о сути четырех направлений мифологии ИИ.

Представление —что из себя представляет ИИ

Mиф №1: ИИ обладает агентностью

Интеллектуальный агент может быть определен, как существо (не обязательно биологическое), самостоятельно действующее, движимое собственной мотивацией (определяемой собственными потребностями), и руководствуясь при этом собственными целями. ИИ таковым агентом не является, ибо он не воплощен и не имеет собственных потребностей, мотивации и целей. ИИ всего лишь набор алгоритмов, мотивацию и цели которых формируют его разработчики. Т.о. ИИ лишь следуют мотивации и целям создавших или использующих его людей, будучи при этом интеллектуальным агентом не более, чем смартфон или лаптоп.

Mиф №2: ИИ человекоподобен

Чтобы быть человекоподобной, машина должна реагировать на получаемые из окружающей среды стимулы в соответствии с традиционными реакциями людей, с учетом человеческих потребностей, а также способностей к созерцанию, суждениям и намерениям. И пока все это у машин отсутствует, они не могут считаться человекоподобными.

Определение —смысл термина и его толкования

Mиф №3: Сверх-ИИ появится в ближайшем будущем

Создание сверх-ИИ превратилось в главную цель развития ИИ, приближение к которой считается основным мерилом прогресса в этой области. Вместе с тем, сама возможность создания сверх-ИИ крайне проблематична, если это вообще возможно. В итоге, главной целью и мерилом прогресса ИИ остается химера. Это в значительной мере затрудняет прогресс в области ИИ, поскольку «кто не знает, куда плывет, тому нет и попутного ветра».

Mиф №4: Термин ИИ имеет определенный смысл

За 70+ лет своего существования, научное направления, названное ИИ, породило одно из главных направле­ний научно-технического прогресса. В современном мире ИИ воплощает в себе тысячи объектов исследований, продуктов и услуг, использующих интеллектуальные алгоритмы в сотнях областей применения. В результате этого, термин ИИ превратился в общую характеристику всех этих исследований, продуктов и услуг. При этом конкретный смысл данного термина сам по себе мало что говорит в отрыве от того, к чему он относится (подобно «электро», применимое теперь почти к чему угодно: электрооборудование, электроарматура, электроприборы, электроемкость, электролитье, электропоезд, электроэнергия, электротяга…)

Управление развитием разработок и внедрения ИИ

Mиф №5: Для безопасного ИИ нужно разработать этику

Все что мы называем ИИ—всего лишь инструменты, применение к которым этических принципов бессмысленно. И даже разработка таких принципов впрок—на случай, если когда-то ИИ обретет агентность,—пустое занятие. Для того, чтобы оснащенная ИИ электропила будущего не пилила людей, не нужна машинная этика. Вполне достаточно трех законов робототехники.

Mиф №6: Правовое регулирование ИИ невозможно

Аргументы, будто ИИ слишком сложен для регулирования, и что оно убьет инновации, несостоятельны и крайне опасны. Определение юридических рамок и «красных линий», ограничивающих разработку и применение технологий двойного назначения (коих в области ИИ уже много и их число будет расти и расти)—стандарт де-факто в современном мире. Без этого немыслимо выживание человечества в условиях постоянно возрастающих военных, террористических и техногенных рисков.

Использование ИИ

Mиф №7: ИИ может быть непредвзятым

Не являясь человекоподобным агентом, ИИ вбирает в себя всевозможные когнитивные искажения создателей своих алгоритмов. Другим неизбежным источником предвзятости ИИ служат данные, используемые в процессе машинного обучения ИИ. Создатели алгоритмов—не идеальные существа. А свойства и качества данных зависят от множества факторов (кто, где и как их собирает). В результате непредвзятость становится недостижимым идеалом для ИИ, не реализуемым на практике.

Mиф №8: ИИ может решить любую задачу

Современные ИИ системы, построенные, в основном, на алгоритмах глубокого обучения, могут эффективно решать лишь задачи, стоящие перед человеческим восприятием (зрение, слух …) и человеческими двигательными действиями (действия рук, ног, тела). Задачи, решаемые мозгом человека, эффективно реализуемы ИИ, лишь если задача описывается строгой системой правил. Круг таких задач, за пределами игр, весьма ограничен. Для решения огромного множества задач, не решаемых современным ИИ, необходимо искать иные способы его реализации.

В завершение тизера забавная иллюстрация к мифу №4 “Термин ИИ имеет определенный смысл”. Подставьте в нижеследующий текст вместо слов “искусственный интеллект” любое сочетание слов из приведенных под текстом или придуманных вами (например, “изысканный сепульк” или “умудренный крокодавр”). Мифологичность текста от такой замены ничуть не изменится. ?

P.S. Читать о мифологии прорывных направлений науки куда интересней, чем о банальных фейк-ньюс. Про пять мифов о сознании я писал здесь.

Источник: zen.yandex.ru

Комментарии: