«Это похоже на тюрьму». В школах Китая контролируют детей на уроках с помощью искусственного интеллекта

Камеры в классах

Сюэ Юйцзе

В Пекине 16-летний Джейсон Тодд открыл секрет своей школы в интернете. На китайском сайте микроблогов Weibo он увидел фотографию классной комнаты. Около 30 учеников сидели за партами лицом к доске. На лицо каждого из них был помещен цветной прямоугольник. Ученик, который смотрел на доску, был помечен зеленым: «ID: 000010, состояние 1: сфокусировано». У парня, который заглядывает в ящик стола, пометка красная: «ID: 000015, состояние 5: отвлекся». Девушка, стоящая напротив учителя, помечена синим: «ID: 00001, состояние 3: ответы на вопросы».

Джейсон думал, что фотография была сценой из научно-фантастического фильма, пока не заметил синие школьные значки на белых рубашках учеников. Он носил такой же.

Если бы не фотография в Сети, ученик школы Нуиланшан в Пекине никогда бы не задумался, зачем в его классе над доской установлена крошечная камера видеонаблюдения. Никто не сообщал ему и еще 3300 других детей, что она фиксирует каждое их движение во время урока. Маловероятно, что и его сверстники, тестирующие систему, знают об этом. В Китае 28 тысяч школьников стали участниками грандиозного эксперимента по внедрению искусственного интеллекта в учебный процесс.

В июле 2017 года Государственный совет Китая опубликовал «План развития искусственного интеллекта следующего поколения» (NGAIDP). По нему КНР к 2030 году должна стать ведущей державой по исследованиям в области искусственного интеллекта и внедрения его в различные сферы жизни — медицину, юриспруденцию, транспорт, охрану окружающей среды и образование. Бюджет программы — почти 150 миллиардов долларов.

После выхода NGAIDP китайские технологические компании заручились государственной поддержкой и финансированием инвесторов для проектов с участием искусственного интеллекта. Многие из них уже тестируются в китайских школах.

Сторонники проекта утверждают: система распознавания лиц помогает понять, насколько внимательны дети на уроке, а значит, поможет им учиться более эффективно. Тому, кто не слушает педагога, уделят дополнительное внимание. Но дети думают иначе.

Школьников беспокоит, что никто не запрашивал их согласия о сборе данных. Один из учеников выразил опасения, что данные о том, как часто он отвлекался на занятиях, помешают ему поступить в университет его мечты. Многие дети потребовали перед экзаменом отключить камеры в своих школах.

Учителя и эксперты еще не вполне уверены, что системы распознавания лиц могут улучшить успеваемость. На этот вопрос нет однозначного ответа. Существуют правовые и моральные барьеры, через которые придется перешагнуть, чтобы использовать эту технологию в китайском образовании. В обществе не утихают споры. Но правительство не интересуется ими: искусственный интеллект уже внедряют во многих школах.

Зачем школам система распознавания лиц

На фотографии, которую нашел Джейсон на Weibo, есть пометка: «Система CCS». Это ведущая разработка Hanwang Education, дочерней компании Hanwang Technology. Она создает аппаратные и программные продукты, предоставляющие услуги по распознаванию лиц, биометрических данных и символов. Именно здесь изобрели ручки, которые озвучивают написанный текст.

Генеральный директор Hanwang Education Чжан Хаопенг руководит внедрением системы CCS в школах-партнерах по всему Китаю.

«Распознавание лица ученика и чтение рукописных заметок — это одно и то же, распознавание образов, — говорит он. — Для машины это просто данные».

Сканеры лица от Hanwang регистрируют рабочее время сотрудников китайских компаний. Их умные рекламные щиты адаптируют рекламу к полу аудитории. Теперь у компании появилась новая ниша — анализ образования.

Чжан говорит, что родители в Китае хотят больше знать о школьной успеваемости детей. Это страна, где от результатов школьных тестов напрямую зависит будущее человека.

«Посетите любую начальную школу, и вы увидите, как родители засыпают учителей вопросами: «Мой сын снова заснул во время урока английского языка?» — говорит он. — «Моя дочь и ее соседка слишком много разговаривали во время занятий? Стоит ли их рассадить?»

Для большинства китайских родителей школа – это единственное место, где они упускают своих детей из виду. А у педагога только одна пара глаз. И он уделяет большую часть внимания двум типам учеников – самым прилежным и самым непослушным.

«Технология CCS родилась из желания заботиться о каждом ребенке в классе», — подчеркивает Чжан Хаопенг, генеральный директор Hanwang Education.

Камера с искусственным интеллектом распознает лица 50 учеников в классе. Она использует уникальные черты лица для идентификации каждого из детей. Человека можно узнать по изображению размером 640 x 480 пикселей.

CCS еще не получил официального одобрения Министерства образования Китая. Но уже реализован в качестве пилотного проекта в семи школах по всей стране с декабря 2017 года.

В классах установлена камера над доской. Раз в секунду она делает снимок и отправляет его на сервер, где алгоритмы идентифицируют лицо каждого ученика и классифицируют его поведение по пяти категориям: слушание, ответы на вопросы, письмо, взаимодействие с другими учениками или сон.

Каждый ребенок получает оценку поведения. Гистограмма показывает, сколько времени ученик провел за учебой или, например, разговорами с другими детьми. Все данные можно получить в мобильном приложении, доступ к которому есть у учеников и родителей.

<…>

К концу 2019 года Чжан Хаопенг планирует внедрить CCS в 100 школах Китая. Развитие проекта он видит в создании общенациональной платформы.

«CCS не нарушает неприкосновенность частной жизни студентов. Мы не передаем отчеты третьим лицам, и вы видите, что на фотографиях в классе, которые мы отправляем родителям, все лица, кроме их ребенка, размыты», — отмечает он.

«Дети боятся зевнуть и покинуть класс»

В одной из школ Ханчжоу в провинции Чжэцзян на востоке Китая используется «Умная система управления поведением в классе», разработанная Hikvision. Как и CCS, это технология распознавания лиц. Она также контролирует учеников с помощью камер, установленных над доской в каждом классе.

Но эти устройства отслеживают и семь выражений лица детей: нейтральное, счастливое, грустное, разочарованное, сердитое, испуганное и удивленное. Эти данные используются для оценки концентрации ребенка, которые отображаются здесь же, на стене классной комнаты. Общий уровень внимания класса можно увидеть на огромном экране в коридоре.

В мае 2018 года эта система распознавания лиц попала в заголовки отечественных и зарубежных изданий и подверглась критике. Но директор школы Ни Цзыюань верит, что она повысит образовательные стандарты.

«Это только помощник для учителей», — отметил он.

Ученики по-разному относятся к разработке Hikvision. Одна из учениц анонимно сообщила, что система напугала ее — устройство может увеличить изображение в 25 раз, с его помощью можно рассмотреть не только лицо школьника, но и информацию на его ноутбуке.

Другой школьник признался, что его одноклассники были подавлены, когда в классе появилась камера. Дети не осмеливаются даже зевнуть во время урока или отвести взгляд от доски, боясь быть наказанными. Никто не покидает класс во время перерыва.

«Родители не будут спорить со школами»

«В Китае нет закона, регулирующего использование технологии распознавания лиц или использования других биометрических данных», — говорит Ху Линь, доцент кафедры права в Шанхайском университете экономики и финансов. Поэтому в том, что делают системы интеллектуального образования, нет ничего противоправного.

С законом и моралью возникают вопросы. Насколько эффективны системы распознавания лиц в образовании? На этот вопрос тоже нет однозначного ответа.

«Если ученик положил голову на стол, но на самом деле искал ручку на полу, или двое детей разговаривали во время урока, но при этом обсуждали вопрос учителя, было бы несправедливо классифицировать их как тех, кто отвлекается», — говорит Хэ Шаньюнь, преподаватель университета Чжэцзян.

К оценке эмоций он отнесся скептически, поскольку китайцы очень сдержанны. Таковы особенности их культуры.

Нельзя оценивать вовлеченность ребенка в учебный процесс с помощью выражения его лица. По словам профессора Хэ, машины все еще менее искусны, чем люди, в понимании культурного контекста и поведения.

При этом он отмечает, что цель внедрения искусственного интеллекта в образование позитивна — помочь учителям разработать индивидуальные учебные планы для каждого ребенка. Но практическое применение технологии беспокоит педагога.

По словам профессора права Ху Линя, отсутствие согласия на использование систем наблюдения создает дисбаланс сил.

«Школы имеют право оценивать, наказывать и исключать, — говорит он. — Родители не будут жертвовать будущим детей, выступая против учебных заведений, поэтому дети окажутся в уязвимом положении».

На Западе обеспокоены популярностью систем распознавания лиц. В июле 2018 года президент и главный юрисконсульт Microsoft Брэд Смит написал открытое письмо, призывающее к федеральному регулированию таких технологий в США. В феврале Amazon последовал их примеру. Сан-Франциско рассматривает вопрос о том, чтобы запретить городским агентствам использовать распознавание лиц, а Общее положение о защите данных Европейского союза (GDPR) классифицирует данные о лицах как «конфиденциальные личные данные», что влияет на то, как с ними можно обращаться.

Нынешняя ситуация в Китае вызывает беспокойство. Согласно отчету, опубликованному в декабре прошлого года Global Times, 10 школ в провинции Гуйчжоу на юго-западе Китая в настоящее время используют оснащенные микросхемами «умные униформы», разработанные местной компанией, для отслеживания точного местоположения своих учеников с целью повышения уровня посещаемости. Среднюю школу в южной провинции Гуандун недавно подвергли критике за то, что она заставляла учеников носить «умные браслеты», которые также отслеживают их местонахождение.

…Джейсон Тодд рассказывает о системе CCS своей маме. Сначала она говорит, что согласна с ее использованием: «Это поможет тебе лучше учиться». Когда мальчик показывает ей фотографию, которую обнаружил на Weibo, она надолго умолкает. А потом решительно говорит: «Ни за что. Это похоже на тюрьму».

Источник: Sixth Tone