Искусственный интеллект выступил в дебатах о праве себе подобных на жизнь

Компания IBM провела очередные дебаты с участием искусственного интеллекта. Ключевой фигурой стала система под названием Debater. Это компьютерный разум, чья цель – вести аргументированные споры и отстаивать ту или иную позицию.

Дебют "Спорщика" состоялся в 2018 году: обсуждения затрагивали тему, должно ли государство субсидировать освоение космоса и телемедицину. Причём зрители сочли, что в одном из раундов ИИ сумел переспорить человека.

В феврале 2019 года Debater принял участие в дискуссии о необходимости субсидирования дошкольного образования. Тогда публика, следившая за дебатами на конференции и онлайн, присудила победу представителю человечества.

На днях компания IBM провела ещё одну словесную дуэль с участием Debater на тему, принесёт ли ИИ больше вреда, чем пользы. При этом искусственный разум должен был привести аргументы обеих сторон – как "за", так и "против". Иными словами, он вёл два спора, в каждом из которых оппонентами выступали люди.

В ходе подготовки к дебатам "Спорщик" проанализировал более 1100 доводов по заданной теме, которые люди прислали на сайт проекта. Это были высказывания, содержащие не более 36 слов.

Система классифицировала 570 комментариев как высказывания в пользу идеи о том, что ИИ принесёт больше вреда, чем пользы, и 511 комментариев – как доводы против. Некоторые комментарии компьютерный разум отбросил как не относящиеся к заданной теме.

Выступая женским голосом перед зрителями в Кембридже, Debater использовал аргументы, сгенерированные в ходе анализа с помощью приложения под названием "речь толпы" (speech by crowd).

"Спорщик" произнёс вступительное слово для каждой из сторон, после чего другие ораторы должны были вступить в дискуссию и привести контраргументы.

Заняв позицию "за", то есть утверждая, что ИИ принесёт больше вреда, чем пользы, Debater выступил с мрачновато-ироничным заявлением о том, что компьютерный разум не сможет принимать верные с точки зрения морали решения, потому что мораль уникальна для людей.

"ИИ-компании до сих пор не имеют достаточных знаний о том, как правильно оценивать наборы данных и фильтровать ошибки", – добавил Debater.

Выступая на стороне оппозиции, то есть говоря преимуществах ИИ, Debater утверждал, что использование таких систем создаст новые рабочие места в определённых секторах и сделает работу в ряде сфер более эффективной.

Но затем "Спорщик" привёл довод, противоречащий его же аргументу. Он отметил, что ИИ способен заменить людей во многих сферах, например, в медицине и образовании.

По итогам дискуссии оппозиция победила с минимальным перевесом: сторона "против" получила 51,22% голосов аудитории.

Эксперты отметили, что в целом ИИ был последовательным в своих аргументах, но всё же допустил несколько ошибок. Иногда его доводы повторялись и противоречили сами себе, а в нескольких случаях "Спорщик" не привёл примеров в поддержку своих утверждений. (Впрочем, то и другое зачастую случается и с людьми.)

Представители IBM настроены оптимистично. Они считают, что после усовершенствований подобные системы можно будет использовать в качестве инструмента для сбора и анализа отзывов большого числа людей. Например, такой "разум" поможет правительствам узнать мнение аудитории по тому или иному вопросу. Его могут использовать и компании, заинтересованные в отзывах потребителей или своих же сотрудников.

"Эта технология может помочь установить интересный и эффективный канал связи между лицом, принимающим решения, и людьми, которых это решение затронет", – пояснил глава проекта инженер Ноам Слоним (Noam Slonim).

Кстати, ранее "Вести.Наука" (nauka.vesti.ru) рассказывали о компьютерах, которые болтают по телефону и умеют предсказывать, кто победит в споре. А чтобы вывести технологии на новый уровень, учёные предложили наделить искусственный интеллект страхом смерти.