«Нам нужно начинать изучать поведенческую психологию ИИ»

МЕНЮ


Искусственный интеллект
Поиск
Регистрация на сайте
Помощь проекту

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



RSS


RSS новости


Все наши страхи перед ИИ вызваны тем, что мы не понимаем, как он принимает решения, обрабатывая огромные объемы информации. Но, возможно, нам и не нужно видеть, что происходит внутри черных ящиков ИИ. Достаточно наблюдать за поведением машин, чтобы предсказывать и понимать их решения, считает группа специалистов. Они предлагают ввести новую научную дисциплину, изучающую поведение машин.

Алгоритмы занимают роль посредников во многих областях, от экономики до медицины и политики, а ученые пытаются объяснить поведение искусственного интеллекта и сделать его прозрачным для стороннего наблюдателя. Впрочем, есть мнение, что проникать внутрь этого «черного ящика» не обязательно. В конце концов, это не первая замкнутая система, которая попадается на пути ученых, пишет MIT Technology Review.

«Мы разработали научные методы изучения „черных ящиков“ сотни лет назад, но эти методы в основном применялись к живым существам, — говорит Ник Обрадович из Media Lab. — Мы могли бы использовать большую часть этих инструментов, чтобы изучать черные ящики ИИ».

Другими словами, ученые предлагают изучать ИИ-системы так же, как с давних пор изучают животных или людей: через эмпирическое наблюдение и эксперимент.

«Мы наблюдаем рост числа машин, которые принимают решения и исполняют их автономно», — говорит Айад Рахван, соавтор исследования. Поэтому их нужно изучать как новый класс агентов с собственным поведенческими паттернами и экологией.

Это вовсе не значит, что у ИИ появилось нечто вроде свободной воли. Но такой подход позволяет отойти от взглядов на ИИ как на пассивный инструмент, который следует изучать только с точки зрения его архитектуры, производительности и способностей. Вместо этого его следует воспринимать как действующее лицо, которое влияет и воздействует на окружающую среду, людей и машины.

К примеру, машинный бихевиорист может исследовать воздействие голосовых помощников на развитие ребенка. Или изучать влияние алгоритмов сервисов знакомств на романтические отношения между людьми. В целом, в сферу их интересов попадают все вопросы сотрудничества и сосуществования человека и машины.

«Мы все одна гигантская система из людей и машин, — говорит Обрадович. — Мы должны признать это и начать изучать ее под таким углом».

Инструмент для визуализации происходящего в черном ящике ИИ разработали специалисты IBM и Гарварда. Он основан на модели «sequence-to-sequence» и позволяет проверить каждое решение модели и найти причину ошибки.

Автор: Георгий Голованов


Источник: hightech.plus

Комментарии: