Под дудку искусственного интеллекта: почему дети доверяют роботам больше, чем самим себе

Искусственный интеллект теперь можно встретить чуть ли не в каждом утюге, а уж в детских игрушках и подавно. Нынешние малыши учатся обращаться с гаджетами раньше, чем читать, тем более, что при наличии голосового помощника им и буквы знать не нужно. Но любой технический сбой или уязвимость в системе могут сделать такой девайс довольно опасным, если дети будут воспринимать все, что говорит робот, как абсолютную истину.

Поэтому ученые из Плимутского университета (Великобритания) решили посмотреть, как дети взаимодействуют со своими умными игрушками и могут ли критично воспринимать "слова" роботов.

Роботам виднее

Чтобы посмотреть, доверяют ли дети искусственному интеллекту, ученые повторили эксперимент известного психолога Соломона Аша. В 1951 году Аш провел ряд экспериментов, посвященных социальному конформизму. Под видом проверки зрения он предлагал людям посмотреть на четыре линии, и выбрать из них две одинаковой длины. Часть людей из группы были подставными актерами, которые давали очевидно неправильные ответы. Всего психолог провел серию из 20 таких экспериментов. И в результате оказалось, что почти 75% испытуемых хотя бы раз подстраивались под общественное мнение, пусть и неправильное.

Сейчас же исследователи модифицировали эксперимент. Вместо подставных актеров неправильные ответы детям подсказывали игрушки-роботы. И оказалось, что роботы могут сбить детей с толку в 25% случаев. При том, что самостоятельно дети находили верные ответы гораздо чаще — в 87% случаев.

- Пока дети были одни в комнате, они вполне неплохо справлялись с задачами, - отмечает один из авторов исследования Тони Белфайм, специалист по робототехнике Плимутского университета. - Но как только появились роботы и стали давать неправильные ответы, дети тут же последовали за ними.

Взрослые ИИ не верят

Во второй части эксперимента исследователи решили понаблюдать, как именно реагируют дети на подсказки со стороны роботов. На этот раз малышам предложили задания, в которых, казалось, было невозможно ошибиться — правильные ответы очевидны! Но даже в таком случае 74% испытуемых сперва смотрели, что скажет робот, а затем повторяли его ответ слово в слово. Всего в тесте участвовали 43 ребёнка.

- Люди склонны доверять машинам, это своего рода предвзятость, - считает Алан Вагнер, специалист по аэрокосмической инженерии из Пенсильванского университета (США). - Мы привыкли доверять роботам и гаджетам, потому что считаем, что они осведомлены больше нас.

Впрочем, взрослые люди в похожем эксперименте оказались далеко не так доверчивы, как дети. Ученые повторили тест с 60 взрослыми, и на их ответы подсказки роботов никак не повлияли.

- Возможно, дело в том, что эти роботы выглядели, как детские игрушки, и у взрослой аудитории их ответы не вызывали доверия, - отмечает Тони Белфайм. - Вероятно, если бы роботы выглядели солиднее, или же подсказки давала Siri (голосовой помощник компании Apple - ред.), результат был бы другим.

Сами же взрослые участники эксперимента потом признавались, что решили, будто роботы просто сломались. Ну или что эти задачки оказались для искусственного интеллекта слишком сложными.

В итоге

Понятно, что детей в этом возрасте подвел навык критического мышления — оно формируется лишь с возрастом и опытом. Однако, в случае с ИИ и умными игрушками такая доверчивость оказывается опасной, предупреждают исследователи. Такие технологии все чаще используются в образовании и для работы с детьми. Более того, роботам все чаще придают человеческие черты — начиная от рук-ног-головы и заканчивая голосом. Кстати, именно поэтому в голосовых помощниках чаще используются женские голоса — это увеличивает доверие пользователей.

КОММЕНТАРИЙ ЭКСПЕРТА

Елена Смирнова, доктор психологических наук, руководитель Центра психолого-педагогической экспертизы игр и игрушек Московского городского психолого-педагогического университета:

- Подавляющее большинство умных игрушек сейчас сами поют, двигаются, разговаривают. Вся эта активность парализует собственную активность ребёнка. Это прикольно для взрослых — смотреть на такую игрушку. Но играть с ней ребёнку невозможно. Если игрушка сама говорит, ей нельзя присвоить собственный голос в воображении. Если она сама делает что-то, её сложно встроить в какие-то игровые сюжеты. Умные игрушки и роботы самодостаточны и закрыты, ребёнок не может вложить в них свои переживания и эмоции. Поэтому говорить, что такие игрушки развивают, не стоит. Скорее, это просто уловки маркетологов.