Это олень, которого я вижу? Социально осведомленный ИИ адаптируется, задавая вопросы людям

Какими бы хорошими они ни стали, агенты искусственного интеллекта по-прежнему в значительной степени настолько хороши, насколько хороши данные, на основе которых они были обучены. Они не знают того, чего они не знают. В реальном мире люди, столкнувшиеся с незнакомыми ситуациями и окружением, адаптируются, наблюдая за тем, что делают другие вокруг них, и задавая вопросы. Когда в Риме, как говорится. Эксперты в области педагогической психологии называют это "социально ориентированным обучением".

До сих пор агентам искусственного интеллекта не хватало этой способности учиться на лету, но исследователи из Стэнфордского университета недавно объявили, что они разработали агентов с искусственным интеллектом, способных искать новые знания, задавая людям вопросы.

"Мы создали агента, который смотрит на фотографии и учится задавать вопросы о них на естественном языке, чтобы расширить свои знания за пределы наборов данных, на которых он изначально обучался", - говорит Ранджай Кришна, первый автор недавнего исследования, опубликованного в журнале Proceedings of the National Academy of Sciences. Кришна получил докторскую степень в Стэнфорде и сейчас преподает в Вашингтонском университете.

Сверхъестественное осознание

Новый подход сочетает в себе аспекты компьютерного зрения и когнитивных и поведенческих наук о человеке, чтобы направить машинное обучение в новое русло. Они называют это "социально ориентированным искусственным интеллектом".

Фишка этого исследования заключается в том, что, когда люди не желают или не заинтересованы отвечать на вопросы ИИ, которые часто могут показаться упрощенными или обыденными, ИИ адаптируется.

Например, при анализе фотографии человека и незнакомого четвероногого животного алгоритм может сначала спросить: "Что это за животное?" Это может вызвать ироничные или саркастические ответы ("Это человек") или, что еще хуже, может вообще не получить ответа. Вместо этого алгоритм мог бы спросить: "Это собака, которую я вижу?" Постановка вопроса таким образом с большей вероятностью приведет к правдивому ответу: "Нет, это олень".

"Как бы нам ни хотелось думать, что люди являются серьезными респондентами, готовыми ответить на любой вопрос, который может задать искусственный интеллект, часто это не так", - говорит Кришна. "Наш агент чувствует это и меняет свои вопросы, основываясь на своих социально осведомленных наблюдениях за тем, на какие вопросы люди будут отвечать, а на какие нет".

Новый агент достигает сразу нескольких целей. Сначала, конечно, он изучает новые визуальные концепции, что и является главной целью. Но, во-вторых, он также учится читать социальные нормы. Кроме того, Кришна отмечает, что существует кумулятивный эффект. Задав вопросы и изучив новую информацию, ИИ переучивается сам. В следующий раз он задает другие вопросы, потому что узнал больше вещей о мире.

"Существует не так уж много способов описать таблицу. Вполне понятно, что человек может не захотеть отвечать на вопросы, которые считаются неискренними, бессмысленными или просто скучными", - говорит Кришна. "Но агент преодолевает эти трудности с помощью умных вопросов, которые становятся все более изощренными по мере того, как агент учится".

Проверка гипотезы

Чтобы проверить свой подход, исследовательская группа, в том числе докторанты Кришны, содиректор Стэнфордского университета Фей-Фей Ли и Майкл Бернштейн, профессора факультета компьютерных наук Стэнфорда, провели восьмимесячный эксперимент, в ходе которого их алгоритм просматривал изображения, размещенные на платформе социальных сетей, основанной на фотографии, и задавал вопросы из примерно 236 000 человек, многие из которых были самими фотографами.

В ходе эксперимента новый алгоритм более чем удвоил свою способность распознавать новую визуальную информацию на изображениях, размещенных его корреспондентами-людьми.

Потенциал социального ИИ

Исследователи полагают, что социально ориентированный ИИ может преодолеть ограничения на то, как ИИ обучается, и продвинуть сбор разведданных в новых направлениях. Исследователи считают, что такой подход создает возможности для агентов искусственного интеллекта, способных распознавать свое собственное антисоциальное поведение и адаптировать вопросы на лету, чтобы избежать этого слишком человеческого качества: скуки.

"У агента есть итеративный процесс обучения, в котором время от времени он использует весь новый контент, который он видел, и переучивается, чтобы в следующий раз задавать другие вопросы, основанные на том, что он узнал о мире", - говорит Кришна. "По мере того, как он учится задавать лучшие вопросы, респонденты-люди остаются вовлеченными".

Самое главное, это позволяет ИИ усваивать новую информацию, выходящую за рамки наборов данных, на основе которых он был первоначально обучен. Современные методы обучения мало чем отличаются от запирания агента в комнате со стопкой книг, как отмечают авторы в своей статье. Как только эти страницы будут изучены, все будущие решения должны приниматься только с использованием информации, почерпнутой из этих книг, и ничего больше.

Еще больше усложняет ситуацию то, что книги, по которым ИИ обучается, сначала должны быть снабжены комментариями людей — процесс, известный в искусственном интеллекте как "навешивание ярлыков". То есть люди-аннотаторы должны сообщить ИИ, что он видит, прежде чем ИИ сможет научиться видеть. К сожалению, заставить аннотаторов помечать обычный контент - непростая задача. И без этой маркировки искусственный интеллект не может учиться.

Вместо того чтобы просить аннотаторов помечать данные, агенты, которые могут учиться в социальном плане, задавая вопросы о своих ситуациях, с большей вероятностью получат полезные ответы от людей.

Новый агент эффективно навешивает ярлыки, задавая вопросы, и, когда он чувствует нежелание со стороны корреспондентов-людей, он учится задавать вопросы новыми способами, чтобы получить серьезные, правдивые ответы.

Существуют также определенные потенциальные риски. Указывая на Tay от Microsoft, аналогичный агент, развернутый в Twitter, который вскоре начал публиковать антисоциальные твиты, извлеченные из его взаимодействия с людьми, этот социально ориентированный ИИ не страдает от тех же проблем. Пользователи не инициируют взаимодействия и, следовательно, не могут координировать атаки на агента. Агент решает, с кем взаимодействовать, и задает интересные вопросы, чтобы контролировать то, что он узнает.

Авторы также провели эксперименты, чтобы изучить, как ИИ должны представляться людям, чтобы получить полезные ответы и избежать "троллей". Несмотря на это, Кришна говорит, что еще предстоит провести много исследований, чтобы учесть предубеждения, которым ИИ могут научиться у людей, и снизить риски, к которым могут привести эти приобретенные предубеждения.

На данный момент текущая версия агента работает в цифровом формате в социальных сетях. Следующий шаг Кришны - перенести этот подход на реальные ситуации, в которых человек может исправлять роботов на лету, когда видит, что они совершают ошибку. Он предвидит день, когда люди смогут обучать роботов в своих собственных домах выполнению новых задач, которые облегчат их жизнь.

Другие потенциальные области применения включают здравоохранение, где роботы могут просить поставщиков разъяснить их медицинские процедуры, технологии, которые изменяют их интерфейсы на основе прямой обратной связи с пользователем, и агенты, знающие культуру, которые могут учиться у различных сообществ для улучшения обучения.

"Мне было бы интересно перейти в физический мир, где люди взаимодействуют с роботами, чтобы заставить их решать новые задачи. Или, если вы видите, что ваш искусственный интеллект совершает ошибку, люди должны иметь возможность быстро предоставить обратную связь и немедленно исправить ее", - говорит Кришна о своих следующих шагах.

Источник: techxplore.com

Комментарии: