Fembot’s tale: как виртуальным помощникам добиться равенства с людьми

Человечество и сегодня продолжает движение в сторону светлого будущего, картина которого мало-помалу становится всё менее абстрактной. Сегодня человеку гораздо легче в деталях спланировать, как будет выглядеть его идеальный дом, или почти мгновенно построить маршрут передвижения во время отпуска. Не меньшего внимания заслуживают и те, кто ему с этим поможет.

Кто такие виртуальные ассистенты

В апреле прошлого года вышла статья Деяна Йотановича под названием The Future is Fembot: Can We Change the Direction of Gendered Art? В этом достаточно масштабном, но при этом искреннем и эмоциональном эссе автор пытается определить, в какой мере социум оказывает влияние на индустрию виртуальных (и/или роботизированных) помощников.

Виртуальные ассистенты (IVA, IPA) — «имена» Алексы, Сири, Кортаны и Алисы наверняка знакомы почти каждому из читающих эти строки, — давно проникли практически во все сферы нашей жизни. Служба Google Duplex уже более двух лет неплохо справляется с бронированием столиков в ресторане или записью на стрижку (и даже грамотно заполняет возникающие в разговоре паузы), Сири избавляет от необходимости лично проверять, выключен ли свет на втором этаже, а чуть менее популярный Bixby с 2017 года играет роль первого виртуального сопроводителя немобильной техники — например, холодильников.

Принцип действия практически любого IVA сводится к распознаванию речи владельца и выдаче ответа, подходящего по смыслу или запрашивающего повторный ввод. Сири в последнем случае, например, извиняется, — скорее всего, за невозможность мгновенного реагирования.

Или нет?

Слуга всех господ

Опираясь сразу на несколько источников, Йотанович осмеливается предложить своему читателю не самую приятную из аксиом. Выясняется, что роботы и виртуальные помощники вынуждены «зеркалить» всё, что на них проецирует пользователь.

Чтобы не пугаться написанных на эту тему крупных текстов (хотя не прочесть A Cyborg Manifesto Донны Харауэй было бы крупной ошибкой), взглянем в сторону кино. Йотанович апеллирует к образам феминизированных роботов (фемботов) в таких фильмах, как «Степфордские жёны» (2004), «Она» (2013) и «Из машины» (2015).

Трейлер последнего начинается с фразы «Стирая грань между человеком и машиной, мы стираем грань между человеком и богом» — слова хорошие, но действительности соответствующие лишь отчасти. Несмотря на то, что фембот Ава оказывается достаточно революционным персонажем со своими целями и планами, ей присущи и стандартные атрибуты женственности: внешняя податливость и смиренность, ориентированность на собеседника — и, конечно, высокий уровень привлекательности.

Йотанович замечает: феминное оформление даже максимально далеких от привычного нам человеческого облика (как выглядит Алекса?) машин — результат бытования в обществе сильных патриархальных установок. В своей статье он упоминает выпущенного в 2016 году фембота «по имени» София: светловолосая красавица раздаёт интервьюерам щедрые улыбки и среди прочего даже упоминает, что хотела бы однажды завести своих собственных детей. Заметим: София не просто выдает одну из заученных фраз, а распознаёт реплики собеседника прямо по ходу диалога и генерирует свой ответ, подстраиваясь необходимым образом. Поэтому выбор ответных реплик не случаен: по ним можно понять, как именно представлен образ женщины в обучающих данных.

Забота и обслуживание, возложенные на «плечи» машин, требуют большой эмоциональной отдачи. Из-за того что машина не может испытывать чувства, настройку производят заранее: например, подбирают диктора с высоким, тонально богатым голосом, и четко прописывают систему фраз, из которой будут выбираться ответы пользователю. Так закрепляется наше отношение к помощнику как к слуге, учтивому и безотказно отвечающему на все вопросы, — и приближается та черта, за которой пользователь станет считать вопрос «Сири, какой у тебя размер груди?» вполне допустимым.

Мы пойдём другим путём

Для выхода из сложившейся ситуации потребовалась бы смена приоритетов, — вопрос в том, чем для этого придется жертвовать.

Успешный пример голосового ассистента без гендерно-специфических черт (разумеется, без снижения эффективности) демонстрирует виртуальный помощник Кай — он представляет компанию Kasisto, клиенты которой стремятся интегрировать ИИ в свой бизнес. В чём-то аналогична ему и немецкая помощница Амме: несмотря на то, что «она» носит женское имя, диалог с ней совершенно не похож на общение с большинством вышеупомянутых ассистентов. Жаклин Фельдман, проектировщица Casisto, пообщалась с Амме и удовлетворенно заметила, что она «дерзка, непринужденна, настоящая бунтарка по натуре», — чем не альтернатива в мире стандартных фраз, которые произносят одинаковые женские голоса?
Виртуальных и/или голосовых помощников «второй волны» попробуют наделить гендерно-нейтральными голосами. Придётся отрегулировать и набор имеющихся в их распоряжении фраз (Кортана уже сейчас умеет уходить от неприятных тем фразой «Это единственное, о чём Вы хотели бы сегодня поговорить?»), изменить алгоритмы машинного обучения или обучающие данные, — но это небольшая цена за то, чтобы положить конец патриархальной уязвимости женского образа в реальном и виртуальном мире.

Источники

• Статью Деяна Йотановича можно прочесть здесь
• Тут можно ознакомиться с основными отличительными чертами трёх популярных ассистентов (Alexa, Google Assistant, Siri)
• Видео про Google Duplex и бронирование ресторанов
• Как Siri контролирует свет в доме
• Полный текст «Манифеста…» Донны Харауэй можно прочитать или загрузить по этой ссылке
• Дуэт Софии и Джимми Фэллона (и знакомство с ещё двумя роботами) 

Источник: m.vk.com

Комментарии: