IBM создала ИИ, придерживающийся норм этики

Разработчики из IBM создали искусственный интеллект, который динамически формирует нормы этики, выражающиеся в наборе правил при создании алгоритмов рекомендации контента.

Процесс обучения

Созданная IBM нейросеть обучается в два этапа. Сначала ИИ получает набор примеров с ограничениями, которых должна придерживаться система рекомендаций. Обрабатывая полученные данные, нейросеть формирует требуемые нормы этики. Чем больше набор примеров, тем точнее будут выработанные ограничения.

На втором этапе ИИ работает непосредственно с пользователем, изучая его предпочтения и реакцию на различный контент. Исходя их полученных сведений, система формирует список рекомендованных к просмотру видеозаписей. При этом нейросеть придерживается полученных ранее этических ограничений. В настройках системы можно задать соотношение приоритетов между интересами пользователя и нормами этики.

Системе нужен наставник

Проблема такого подхода заключена в необходимости составления для ИИ подборки примеров. В связке дети-родители определять ограничения призвано старшее поколение. Однако в подавляющем большинстве случаев система остаётся с пользователем тет-а-тет. Пользователь может и сам определить для себя некоторые этические нормы, впрочем, точно так же, он может их и изменить. Над данной проблемой группа исследователей IBM продолжает работать совместно с MIT Media Lab. Пока разработчики предлагают выбрать в качестве наставника, отвечающего за вопросы этики, друга или члена семьи.

В 2017 году сотни исследователей и IT-экспертов, в числе которых были Илон Маск и Стивен Хокинг, составили список из 23 основных принципов, которых стоит придерживаться при разработке ИИ. В том же году Институт инженеров электротехники и электроники определил нормы этики для искусственных интеллектов. Теперь ИИ учатся формировать этику для людей. А 17 июня 2018 года IBM объявила о создании нейросети, способной аргументированно спорить с живыми оппонентами.

Источник: VentureBeat

Источник: tproger.ru

Комментарии: