Изучение поведения ИИ

Новая статья обрамляет возникающую междисциплинарную область машинного поведения

По мере того, как наше взаимодействие с технологией “мышления” быстро растет, группа исследователей во главе с исследователями из MIT Media Lab призывает к новой области исследований—машинному поведению,—которая бы вывела изучение искусственного интеллекта далеко за пределы компьютерных наук и инженерии в биологию, экономику, психологию и другие поведенческие и социальные науки.

” Мы нуждаемся в более открытом, заслуживающем доверия, надежном исследовании воздействия интеллектуальных машин на общество, и поэтому исследования должны включать опыт и знания из других областей, которые традиционно изучали его", - сказал Ияд Рахван, который возглавляет группу масштабируемого сотрудничества в Media Lab.

Rahwan, Мануэль города и Ник Obradovich, наряду с другими учеными из Лаборатории СМИ созвал коллег в Макс Планк Института, Стэндфордского университета, Калифорнийского университета в Сан-Диего, а также других образовательных учреждений, а также с Google, Facebook и Microsoft, чтобы опубликовать статью в природе , что делает дело на широкую научную программу исследований, направленных на изучение поведения систем искусственного интеллекта.

” Мы видим рост машин с агентством, машин, которые являются акторами, принимающими решения и предпринимающими действия автономно", - сказал Рахван. "Это требует нового научного исследования, которое рассматривает их не только как продукты инженерной и компьютерной науки, но и как новый класс акторов со своими собственными поведенческими паттернами и экологией.”

Дело не в том, что экономисты и политологи не изучают роль ИИ в своих областях. Например, экономисты труда изучают, как ИИ изменит рынок труда, в то время как политологи изучают влияние социальных медиа на политический процесс. Но это исследование происходит в основном в силосах.

Одновременно с публикацией статьи Группа "масштабируемое сотрудничество" выпустила серию интервью со многими из своих авторов. Он также организует конференции, чтобы объединить тех, кто работает над поведением машины в различных областях.

"Медиа-лаборатория уже давно применяет широкий спектр знаний и знаний для своих исследований и изучения мыслящих машин”, - сказал Дзеи Ито, директор Медиа-Лаборатории. "Я рад, что так много других поддержали этот подход и импульс, который сейчас создается за ним.”

Алгоритмы, доверие и секретность

Каждый день мы многократно взаимодействуем с мыслящими машинами. Мы можем попросить Siri найти ближайшую к нашему дому химчистку, сказать Alexa, чтобы заказать мыло для посуды, или получить медицинский диагноз, сгенерированный алгоритмом. Многие такие инструменты, облегчающие жизнь, на самом деле” думают " сами по себе, накапливая знания и опираясь на них, и даже общаясь с другими мыслящими машинами, чтобы делать все более сложные суждения и решения—и способами, которые не могут полностью объяснить даже программисты, написавшие свой код.

Представьте, например, что лента новостей, запущенная глубокой нейронной сетью, рекомендует вам статью из садоводческого журнала, даже если вы не садовник. ” Если бы я спросил инженера, который разработал алгоритм, этот инженер не смог бы всеобъемлющим и причинным образом объяснить, почему этот алгоритм решил рекомендовать эту статью вам", - сказал Ник Обрадович, научный сотрудник группы масштабируемого сотрудничества и один из ведущих авторов Nature paper.

Родители часто считают общение своих детей с семейным личным помощником очаровательным или забавным. Но что происходит, когда помощник, богатый передовым ИИ, отвечает на четвертый или пятый вопрос ребенка о T. Rex, предлагая: “было бы неплохо, если бы у вас был этот динозавр в качестве игрушки?”

"Что движет этой рекомендацией?- Сказал Рахван. "Это устройство пытается сделать что—то, чтобы обогатить опыт ребенка-или обогатить компанию, продающую игрушечного динозавра? Очень трудно ответить на этот вопрос.”

До сих пор никто не нашел надежного способа изучить все важные потенциальные последствия алгоритмических решений для нашей жизни. Это означает, что у нас нет способа оценить, является ли выбор, который ИИ делает для нас, лучше, чем решения, принимаемые людьми, когда мы выходим за пределы конкретных и узких целей, для которых инженеры оптимизируют.

Исследователям, желающим исследовать процесс принятия решений с помощью машин, часто мешают промышленная тайна и правовая защита и защита интеллектуальной собственности. Исходные коды и структуры моделей для наиболее распространенных алгоритмов, развернутых в обществе, являются собственностью, как и данные, используемые для их” обучения", поэтому все, что может быть рассмотрено, - это их входы и выходы. "Скажем, мы хотим изучить, как Amazon делает свои цены, которые могут потребовать создания поддельных персонажей, которые просматривают сайт для покупок”, - сказал Рахван. "Делая это, вы можете нарушить условия службы, и это может быть преступлением.”

Соавтор статьи, Алан Мислав (Alan Mislove) из Северо-Восточного университета, входит в группу академических и медиа истцов в иске, оспаривающем конституционность положения Закона о компьютерном мошенничестве и злоупотреблении, которое делает преступным проведение исследований с целью определения того, производят ли алгоритмы незаконную дискриминацию в таких областях, как жилье и занятость.

Но даже если крупные технологические компании решат поделиться информацией о своих алгоритмах и иным образом предоставить исследователям больший доступ к ним, существует еще больший барьер для исследований и исследований, который заключается в том, что агенты ИИ могут приобретать новое поведение, взаимодействуя с окружающим миром и с другими агентами. Поведение, полученное в результате таких взаимодействий, практически невозможно предсказать, и даже когда решения могут быть описаны математически, они могут быть “настолько длительными и сложными, что их невозможно расшифровать”, согласно статье.

Так же, как и некоторые из вопросов, поднимаемых о том, как и почему ИИ принимает решения—и многие из них имеют узловатые этические вопросы.

Скажем, гипотетический самоходный автомобиль продается как самый безопасный на рынке. Один из факторов, который делает его более безопасным, заключается в том, что он” знает", когда большой грузовик останавливается вдоль его левой стороны и автоматически перемещается на три дюйма вправо, оставаясь при этом на своей собственной полосе. Но что делать, если велосипедист или мотоцикл одновременно тормозит справа и, таким образом, погибает из-за этой функции безопасности?

” Если бы вы могли посмотреть на статистику и посмотреть на поведение автомобиля в целом, это могло бы убить в три раза больше велосипедистов, чем миллион поездок, чем другая модель", - сказал Рахван. “Как компьютерный ученый, как вы собираетесь программировать выбор между безопасностью пассажиров автомобиля и безопасностью тех, кто вне автомобиля? Вы не можете просто сконструировать автомобиль, чтобы быть "безопасным" —безопасным для кого?“

Выращивание поля

Цель статьи-не создать новое поле с нуля, а объединить ученых, изучающих поведение машин под единым знаменем, чтобы признать общие цели и взаимодополняемость. В науке такое случается постоянно. Например, в статье голландского биолога и лауреата Нобелевской премии Николааса Тинбергена 1963 года были подняты вопросы и исследованы вопросы, которые привели к созданию области поведения животных.

Рахван и соавторы надеются, что, называя и исследуя зарождающуюся область поведения машины, они смогут обеспечить рамки для других исследователей из всех областей исследования, чтобы строить на них. Сбор разнообразных, междисциплинарных перспектив имеет решающее значение для понимания того, как лучше всего изучать и, в конечном счете, жить с этими новыми интеллектуальными технологиями.

Источник: www.media.mit.edu

Комментарии: