В этом году на Всемирном экономическом форуме стало известно, что организация REFUNITE, которая помогает беженцам воссоединиться со своими близкими, запускает мобильное приложение LevelApp для тренировок искусственного интеллекта. По задумке, благодаря ему беженцы из Уганды смогут зарабатывать до $20 в день, выполняя простые задания (так называемую разметку данных). Работа по обучению ИИ представляется хорошей возможностью для людей из развивающихся стран, но вызывает много вопросов. Этично ли привлекать к разработкам ИИ тех, кого технологии лишат рабочих мест в первую очередь? Реалистичны ли призывы Института инженеров электротехники и электроники (IEEE) к разработке искусственного интеллекта, который будет учитывать различия в ценностях разных культур? Возможно ли, что нейросеть, обученная исполнителями из стран третьего мира, в каком-либо виде переймет их мировоззрение? Правда ли, что уже сейчас следует задуматься над тем, как сделать ИИ толерантным? T&P задали эти вопросы антропологу, медиаисследователю и разработчикам.
Дима Девинн
Сооснователь сервиса разметки данных для обучения искусственного интеллекта Dbrain
Привлечение к разметке данных для обучения ИИ любой категории людей, которым интересна подобная работа, безусловно, прекрасная идея. Средний уровень зарплат в развивающихся странах в большинстве случаев сильно ниже, чем месячная плата за разметку данных (при полноценном восьмичасовом рабочем дне). А большой объем таких задач на профильных платформах гарантирует стабильный заработок.
В большинстве случаев это простые задачи: найти на изображении или в тексте фрагмент и присвоить ему определенный класс. Например, выделить области, где на картинке изображены коты, чтобы нейронная сеть, обучаемая на этих данных, могла научиться сама распознавать животных. Такая работа подходит всем незанятым или частично занятым, в том числе беженцам или людям с ограниченными возможностями — если у них сохранный интеллект. Например, в Dbrain мы при участии благотворительных фондов привлекаем к разметке данных людей с ограниченными возможностями. Создание искусственного интеллекта требует не только участия дата-сайентистов, но сотен тысяч разметчиков — для многих это хорошая возможность стать частью современной технологической сцены.
Технология ИИ быстро растет, но все же она находится в начале своего большого пути. Если вам нужна нейронная сеть, которая хорошо выполняет задачи, понятные только представителям конкретной группы людей, то для подготовки следует привлекать тех, кто обладает необходимой компетенцией. Если человек обладает необходимыми знаниями, он может размечать изображения и приносить пользу, к какому бы сообществу он ни принадлежал.
Сергей Марков
Специалист по ИИ и машинному обучению, основатель портала 22century.ru
Благодаря прогрессу в области ИИ, произошедшему за последние годы, возрос спрос на системы, которые требуют размеченных данных. Такие операции обычно не требуют специальных знаний — достаточно уметь пользоваться компьютером (или даже планшетом или мобильным телефоном) на пользовательском уровне. Для массовых операций по разметке данных уже сегодня созданы краудсорсинговые платформы — Amazon Mechanical Turk, «Яндекс.Толока» и т. д.
Не вижу особых проблем в привлечении беженцев к решению таких задач. Тем более что они могут быть носителями редких в Европе знаний, например в области языка или иных элементов культуры. Но сама по себе разметка массивов — не самая интеллектуальная работа. Выполняя ее, человек приобретает не так уж много новых навыков. Кроме того, уберизация в этой области приводит к обезличиванию, коммодитизации рабочей силы. У работника становится меньше возможностей показать, что он способен на большее, ведь для того, кто пользуется продуктами его труда, он становится безликой абстрактной трудоединицей. Но, на мой взгляд, разметка данных, безусловно, лучше, чем ничего.
В целом система международного разделения труда такова, что представители массовых профессий, не требующих наличия высокой квалификации, в большей мере сосредоточены в развивающихся странах. На ум приходят и сельскохозяйственные работники в аграрных регионах, и азиатские промышленные рабочие, и операторы индийских call-центров. Поэтому социальные последствия технологической безработицы в этих странах будут, по всей видимости, более тяжелыми, особенно в условиях слаборазвитой системы социальной защиты.
Технологическая безработица, которой сегодня грозят жителям развивающихся стран, не всегда приходит за наименее квалифицированными кадрами.
Например, в XX веке она забрала рабочие места образованных граждан развитых стран: распространение электронных вычислительных машин сделало ненужным участие людей в масштабных бухгалтерских или технологических расчетах. Немного раньше электромеханические табуляторы забрали работу у тех, кто занимался обобщением больших объемов статистической информации.
Думаю, IEEE, призывая к разработке мультикультурного ИИ, пытается создать задел на будущее — пока системы ИИ не так уж часто привлекаются к решению задач, требующих этического выбора. Хотя и сегодня учитывание культурных особенностей может пойти на пользу. Например, если речь идет о создании диалоговых систем, которые должны учитывать особенности этикета, принятого в тех или иных культурах. К тому же создаваемые сегодня системы ИИ могут содержать недостатки, связанные с этнокультурными особенностями. Ведущие системы распознавания лиц от Microsoft, IBM и Face++ демонстрируют существенно разный уровень ошибки в зависимости от пола или цвета кожи человека, что может привести к неравенству при доступе к сервисам, основанным на лицевой биометрии.
Я думаю, фактор мультикультурализма при разработке ИИ может оказаться наиболее важным при решении творческих задач. В музыке, изобразительном искусстве, создании текстов ИИ еще предстоит сказать свое веское слово, и успех в этих направлениях во многом будет зависеть от того, насколько в обучающих данных будет представлено все богатство мировой культуры.
Кадр из мультфильма «ВАЛЛ-И». 2008 год
Константин Яковлев
Кандидат физико-математических наук, ведущий научный сотрудник ФИЦ ИУ РАН, доцент факультета компьютерных наук НИУ ВШЭ, старший научный сотрудник МФТИ
Начнем с того, что немного позанудствуем и отметим тот факт, что информации об этом приложении очень мало (даже на сайте самой REFUNITE нет данных). Словосочетание «тренируют ИИ», похоже, используется для красного словца и броского заголовка (эффект налицо: вы обратились ко мне за комментарием).
Что такое разметка данных? Это примерно то, что происходит, когда вам в интернете показывают картинку с текстом, а вы должны ввести изображенные символы. Или показывают изображение дома, а вы должны поставить метку «дом». То есть никакого творчества и привнесения личностных и культурных смыслов здесь не подразумевается. Если на экране смартфона показано изображение буквы «А», вы должны ввести «А». Вы, конечно, можете ввести что угодно, хоть «Ъ», но вам за это не заплатят.
В голову приходит следующая аналогия: во всем мире пошла мода на строительство домов из бетона, потому что это долговечно, прочно, безопасно и вообще круто по сравнению с прошлым веком. Все строительные компании (маленькие, большие, с государственным участием и без) решили строить дома из бетона, но тут выяснилось, что для этого нужен песок, причем в больших количествах. Песок нужно либо покупать где-то, либо копать, и так получилось, что есть люди в условной Уганде, готовые за назначенную цену копать песок, — ну и копают. Повлиять на то, каким будет бетонный дом, построенный с помощью этого песка где-то в Европе, хоть сознательно, хоть не сознательно копающие вряд ли могут. Если бы их вовлекли в весь процесс — какой бетон из накопанного песка делать, по какой технологии, как из полученного бетона строить дом и так далее, — то это был бы другой разговор, но об этом речи не идет!
Денис Сивков
Кандидат философских наук, доцент кафедры теоретической социологии и эпистемологии ИОН РАНХиГС
Новости об участии беженцев в разработках ИИ можно рассматривать с трех перспектив. Первая — это подход технологического детерминизма. В этой перспективе кажется, что включение беженцев в работу с приложением для сбора данных для нейросети — прогрессивное и в
Второй подход — критический, в котором возникает много поводов для подозрения. Например, мы не знаем, для чего будет использоваться эта нейросеть. Может быть, для распознавания лиц? А вдруг она предназначается для слежки за беженцами? Что, если это очередная темная история, связанная с дистопическим использованием технологий?
Третий подход — не критический, но и не подразумевает технологического восторга: это подход STS. В его рамках было бы неплохо понять, как это работает, а именно провести подробное этнографическое исследование о том, как беженцы взаимодействуют с технологиями, что они думают по этому поводу, кто и каким образом им предлагает эту работу, как происходит оплата, что говорят в офисах компании, разработавшей эти приложения.
Обсуждая такие случаи, мы часто не учитываем тонкие культурные настройки. Например, угандийские беженцы — представители индигенных народов, среди которых может быть сильна, например, вера в колдовство, сглаз или аналогичные вещи (которые не чужды и представителям западной цивилизации). Неизбежно возникает вопрос: как эти люди будут участвовать в тренировках нейросетей? Проведу аналогию с другим африканским примером. Джонатан Фридман исследовал моду в городе Браззавиль в Конго. Юноши приходили в
Очень важно понять, не будут ли культурные особенности тех сообществ, к которым принадлежат обучающие ИИ беженцы, сопротивляться замыслу тех, кто считает, что прогресс и технологии идут рука об руку.
Что касается мультикультурного ИИ, в своих исследованиях в России я часто сталкивался с тем, что те, кто работает с нейросетями, не очень хорошо понимают, как сеть работает. А примеры, когда искусственный интеллект выходит из-под контроля, показывают, что мы все еще плохо представляем законы функционирования таких конструкций. Нейросети — это скорее иллюзия контроля над технологиями, черный ящик. А этические конвенции, в том числе утверждение мультикультуралистских ценностей и необходимости участия разных групп в разделении технологического труда, часто принимаются без учета деталей, составляющих реальную жизнь разных сообществ. В дебатах, как правило, побеждают аргументы более развитых стран. В этой ситуации мультикультурный ИИ кажется утопией, а планы по его преобразованию напоминают популистские заявления.
Кадр из мультфильма «ВАЛЛ-И». 2008 год
Антон Гуменский
Исследователь медиа, преподаватель факультетов журналистики МГУ и МГИМО
При рассмотрении инициативы REFUNITE сразу возникают критические комментарии насчет целевой аудитории проекта. Это благотворительность — или беженцев выбрали потому, что они согласятся работать за меньшие деньги? Намерение помочь наталкивается на марксистскую критику капитала, который использует дешевый неквалифицированный труд. Традиционным ходом в подобном рассуждении станет указание на то, что современный бизнес даже в благотворительных проектах не может преодолеть свои структурные особенности — минимизацию издержек и максимизацию прибыли. Мы можем выдать за благотворительность что угодно, но как насчет того, что эта операция позволяет сэкономить деньги?
Можно предположить, что сама по себе работа со смартфоном в рамках проекта помогает обрести полезные навыки для жизни в западном обществе. Но эта позиция оказывается очень слабой, если указать на детали самой работы. Можно сказать: «Нажимать пальцем на экран, выбирая домики или кошек, не весть какой навык!» Это либо то, что беженец уже умеет, либо освоит очень быстро. Вряд ли такой опыт всерьез повысит чью-то привлекательность перед западным работодателем.
Чисто символически мы сталкиваемся с актом каннибализма. Механическая неквалифицированная работа будет заменена роботами в первую очередь. Эти люди не построят завод, на котором когда-нибудь смогут работать, а помогут создать то, что позволит окончательно обойтись без их участия. Эта тенденция хорошо видна на примере call-центров, которые сначала переносят в условную Индию и нанимают живых людей, а потом заменяют этих людей алгоритмом. В этом есть определенная драма.
Вместе с тем при изучении таких проектов возникает пространство для социально-конструктивистского подхода. Если мы исходим из того, что артефакт (т. е. искусственный интеллект) не нейтрален, а является продуктом культуры и несет в себе отпечаток создателей и пользователей, антропологам и социологам может прийти в голову посмотреть на встроенные основания ИИ, разработанного при участии беженцев. Теоретически исследование может опираться на неочевидные интерпретации заданий и символов, являющихся привычными для западной культуры, носителями другого опыта. Если говорить совсем просто —
что, если такой ИИ будет немножко беженцем?
Такой подход кому-то покажется странным и даже абсурдным, но в рамках антропологии может считаться вполне легитимным и достойным исследования. При этом рассуждения о том, чем будут отличаться друг от друга ИИ, созданные, скажем, на основе конфуцианских и буддистских ценностей, пока лучше оставить художественной литературе.