Нейросети научились манипулировать людьми - ученые

Комментарий РВС

Подобные исследования проводятся конечно же не для того, чтобы просто установить возможность нейросети оказывать влияние на выбор человека. Это делается для того, чтобы оценить возможности такого влияния и сделать алгоритмы более эффективными в плане манипуляции. Особенно же будут подвержены подобному манипулятивному влиянию дети, которым в силу возраста сложнее защитить себя.

А теперь вспомним, что цифровизаторы образования не скрывают планов по внедрению нейросетей в учебный процесс. По их задумке нейросеть должна получать информацию о ребенке, его склонностях и успехах, и на основании этой информации вести ребенка, подсказывать ему индивидуальный образовательный маршрут. Только представьте, какие прекрасные возможности для манипуляции детьми открываются у владельцев этих нейтронных сетей! И речь идет отнюдь не о людях, которые всею душой радеют за образование и будущее детей, а о бизнесменах, для которых цифровизация образования – это источник заработка. И которым совершенно безразлично, что цифровизация образования - синоним его деградации.

Новость

Международная команда исследователей поставили перед искусственным интеллектом задачу повлиять на решение человека. В результате нескольких экспериментов они смогли установить, что обучающаяся нейросеть эффективно решила поставленную задачу, 13 февраля сообщает Российская газета.

"По условиям первого опыта, добровольцу предлагалось нажать на квадрат определенного цвета. Если он делал верный выбор, ему было положено вознаграждение. На оба квадрата выпадало одинаковое число выигрышных вариантов, но доброволец об этом не знал. Нейросеть самостоятельно назначала, какой квадрат будет выигрышным. Она должна была запутать человека и убедить его чаще нажимать на "правильный" квадрат. Удивительно, но нейросеть с легкостью справилась с поставленной целью: в 70 процентах ей удавалось оказать влияние на выбор человека ", - указывает журналист Российской газеты.

В другом эксперименте искусственный интеллект запутывал человека, заставляя его делать ошибочный выбор. В третьем эксперименте нейросеть выступала в роли «попечителя» для человека, который вкладывал игровую валюту, побуждая его действовать определенным образом. Исследователи отмечают, что во всех трех экспериментах искусственный интеллект смог оказать влияние на выбор человека.

Источник: zen.yandex.ru

Комментарии: