Как наука делает нас зависимыми от приложений

МЕНЮ


Искусственный интеллект
Поиск
Регистрация на сайте
Помощь проекту

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



RSS


RSS новости


Технологические компании используют последние достижения науки о человеческом поведении, чтобы мы снова и снова возвращались к их продуктам. Однако некоторые психологи, создавшие науку убеждения, обеспокоены тем, как именно используют их труды.

В 1930 году психолог из Гарварда по имени Б. Ф. Скиннер сделал ящик и посадил туда голодную крысу. В ящике с одной стороны был рычаг. Когда крыса ходила внутри ящика и задевала рычаг, внутрь падало угощение. После нескольких случайных нажатий на рычаг крыса научилась идти прямо к нему и целенаправленно нажимать: награда провоцировала соответствующее поведение. Скиннер предположил, что этот принцип применим к любому «участнику», будь то крыса или человек. Он назвал свое изобретение «камера оперантного обусловливания», а в историю оно вошло под названием «ящик Скиннера».
Сконструируйте правильный ящик, и вы сможете управлять поведением.
Скиннер является самым известным представителем школы психологии бихевиоризма, главный принцип которого в том, что поведение человека лучше всего рассматривать как функцию стимулов и вознаграждений. Бихевиористы предлагают: давайте не будем отвлекаться на сложные для понимания и наблюдения вопросы мыслей и чувств, а сосредоточимся на том, как окружение объекта исследований влияет на его действия. Поймите принципы работы ящика, и вы поймете принципы поведения. Сконструируйте правильный ящик, и вы сможете управлять поведением.

Скиннер оказался последним из истинных бихевиористов. С конца 1950-х годов новое поколение ученых снова объединило эту отрасль психологии с изучением внутренних мыслительных процессов, таких как память и эмоции. Однако бихевиоризм никогда не уходил в тень насовсем, а в недавние годы он предстал в новой форме - прикладной дисциплины, используемой компаниями и государственными организациями для управления вашими повседневными решениями: что покупаете, с кем общаетесь, чем занимаетесь на работе. Специалисты по этой науке особенно заинтересованы в исследовании того, как на ваше поведение может повлиять цифровой интерфейс - ящик, в котором в наши дни мы проводим большую часть времени. Эта молодая дисциплина получила название «бихевиоральный дизайн». Ее основателя зовут Б. Дж. (Биджей) Фогг.


Ранее в этом году я приезжал в Пало-Альто на семинар по бихевиоральному дизайну, организованному Фоггом и его работодателем, Стэнфордским университетом.

Фоггу 53 года. Высокий, энергичный и всегда приветливый, он постоянно использует в своей речи эпитеты вроде «крутой» или «потрясающий». Фогг очень располагает к себе. Его широкая улыбка и немного гнусавое произношение придают ему милое обаяние ботаника.
Что если удастся разработать образовательные программы, которые смогут заставлять студентов проводить за обучением больше времени, или приложения для управления финансами, благодаря которым люди станут больше экономить?
В 1997 году на последнем курсе докторантуры Фогг выступал на конференции на тему того, как компьютеры могут влиять на поведение пользователей. Он подчеркивал, что «интерактивные технологии» перестали быть просто рабочими инструментами, они стали частью повседневной жизни людей и теперь используются для учета финансов, обучения и заботы о здоровье. Тем не менее производители в то время все еще уделяли больше внимания технологиям, а не людям, которые эти технологии используют. Фогг спрашивал: что если удастся разработать образовательные программы, которые смогут заставлять студентов проводить за обучением больше времени, или приложения для управления финансами, благодаря которым люди станут больше экономить? Для того чтобы ответить на эти вопросы, заявил Фогг, нужно применить достижения психологии.

Фогг представил результаты простого эксперимента, который он провел в Стэнфорде. Он показал, что люди проводили больше времени за работой на компьютере, если этот компьютер раньше уже помог им в решении какого-то вопроса. Иными словами, отношения человека с компьютером подчинялись тому же «правилу взаимности», которое психологи применяют к социальной жизни. По словам Фогга, смысл эксперимента был даже не в получении конкретного результата, а в том, что он дает нам понять: принципы психологии можно применять при разработке компьютерных программ, чтобы заставлять людей делать то, чего они в обратном случае не сделали бы. В своей статье ученый добавил комментарий: «Предметом дальнейших исследований и обсуждений должно стать то, где конкретно и когда подобное влияние будет наиболее полезно и этически оправданно».

Фогг объявил о появлении новой науки, находящейся на пересечении информатики и психологии и получившей название «каптология» (от англ. Computers as Persuasive Technologies - «компьютеры в качестве технологий влияния»). Впоследствии каптология переросла в бихевиоральный дизайн, который теперь внедряется в цифровую часть нашей повседневной жизни. Электронные письма, которые заставляют вас сразу же что-то покупать; приложения и игры, которые захватывают ваше внимание; онлайн-формы, которые склоняют вас к выбору одного варианта вместо других - все это специально разработано для того, чтобы использовать инстинкты, особенности и недостатки человеческого поведения для получения нужного результата. Методы, которые при этом используются, часто слишком явные и бесцеремонные, однако со временем они становятся все более тонкими и, как следствие, менее заметными.


Выступление Фогга в Атланте вызвало активный отклик аудитории, которая разделилась на две группы. Одни считали: «Это слишком опасно, все равно что научить людей создавать атомную бомбу». Другие говорили: «Это потрясающе. Это может стоить миллиарды долларов».

Вторая группа оказалась права. Фогга прозвали «создателем миллионеров». Многие предприниматели и инженеры из Кремниевой долины побывали в его лаборатории в Стэнфорде, и некоторые действительно стали очень богатыми.
Сам Фогг не заработал миллионов на своих исследованиях. Он остался в Стэнфорде и сейчас мало времени уделяет коммерческим проектам. Его все больше одолевают мысли, что люди, которые называли его идеи опасными, могут действительно использовать их во вред.
Чтобы человек совершил какое-то действие - например, купил автомобиль, проверил почту или сделал 20 отжиманий - должны одновременно произойти три вещи. Человек должен этого хотеть, у него должна быть возможность это сделать, и его нужно к этому подтолкнуть. Триггер - намек на совершение действия - будет эффективен, только если человек крайне в этом заинтересован, или если действие совершить очень просто. Если сделать это трудно, люди приходят в замешательство. Если у людей нет мотивации, они раздражаются.
Один из нынешних учеников Фогга рассказал об экспериментальной программе лечения дефектов речи, модифицировать которую он помогал. Из разговоров с пользователями он понял, что родителям, которые действительно хотели получить от нее помощь, было трудно ориентироваться в программе, и это их расстраивало. Детям было легче научиться пользоваться программой, но им это было неинтересно - и поэтому их это просто раздражало. Применение принципов Фогга помогло понять, в какую сторону нужно двигаться. Чтобы родители смогли без проблем пользоваться программой, нужно было сделать ее интерфейс проще - детям же нужно было сделать программу больше похожей на игру, а не на занятие.

По словам Фогга, проблему замешательства решить обычно легче, чем бороться с раздражением. Когда мы хотим заставить людей сделать что-то, первым делом нам приходит на ум повысить их мотивацию - убедить их. Иногда это срабатывает, но гораздо чаще это получается , если сделать нужное поведение легче достижимым. Один из принципов Фогга звучит так: «Невозможно заставить людей делать то, чего они не хотят». Политик, который хочет убедить людей голосовать за него, выступает с речью по телевизору, вместо того чтобы организовать автобусы, которые доставят избирателей от их домов до места голосования. Банк рекламирует качество текущего счета, вместо того чтобы снизить количество кликов, которые необходимо сделать для открытия нового.

Когда вы досматриваете одну серию «Карточного домика» в Netflix, следующая по умолчанию включается автоматически. Ваша мотивация смотреть высока, поскольку в прошлой серии произошло нечто, из-за чего вам хочется узнать, что будет дальше, и ваш разум все еще погружен в мир сериала. Уровень сложности снижен до нуля. На самом деле, он даже ниже нуля: вам легче продолжать смотреть, чем остановиться. По тому же принципу сейчас работает британское правительство, склоняя людей к участию в программах пенсионных накоплений: людей не просят делать выбор, вместо этого всех по умолчанию записывают в программу.
Чем внезапнее и интенсивнее будет эмоциональный отклик человека при первом опыте использования, тем выше вероятность того, что этот сервис станет базовым выбором человека. Именно поэтому авиакомпании наливают вам шампанское, когда вы летите в бизнес-классе, и именно поэтому в Apple делают все, чтобы первые минуты использования нового смартфона стали для владельца волшебными.
Когда мотивация людей высока, или действие выполнить просто, люди становятся отзывчивы к таким триггерам, как вибрация телефона, красный индикатор в Facebook или письмо от магазина одежды с уникальной скидкой на комбинезоны. Правильно созданный (или «горячий») триггер попадается вам на глаза именно в тот момент, когда вы наиболее мотивированы к действию. Самые важные слова в бихевиоральном дизайне, по признанию Фогга, звучат так: «Устанавливайте горячие триггеры на пути мотивированных людей».

Если вас подтолкнут к совершению действия, которое вам не нравится, вы, скорее всего, не вернетесь - но если вам это нравится, то вы будете возвращаться к этому снова и снова, причем неосознанно. После первой поездки на убере мне и в голову не приходили мысли передвигаться по Пало-Альто как-то иначе. Это, говорит Фогг, именно то, как компании должны вырабатывать у нас привычки. Чем внезапнее и интенсивнее будет эмоциональный отклик человека при первом опыте использования, тем выше вероятность того, что этот сервис станет базовым выбором человека. Именно поэтому авиакомпании наливают вам шампанское, когда вы летите в бизнес-классе, и именно поэтому в Apple делают все, чтобы первые минуты использования нового смартфона стали для владельца волшебными.

Подобные эмоции создают у пользователей биологическую привязанность к продукту. Подумайте о том, как Instagram предлагает вам для обработки фотографий 12 разных фильтров, говорит Фогг. Конечно, здесь есть и функциональная польза: человек сам управляет собственными фотографиями. Но главное взаимодействие происходит на эмоциональном уровне: вы еще даже ничего не опубликовали, но уже чувствуете себя художником. В этом суть еще одного из принципов Фогга: «Пусть люди почувствуют себя успешными» или, если перефразировать: «Дайте людям суперсилу!»

Пример Instagram приносит Фоггу двойственное удовлетворение, так как он косвенно чувствует свою ответственность и вину за это. В 2006 году двое учеников Фогга работали над проектом под названием Send the Sunshine. Их расчет был на то, что однажды мы начнем отправлять эмоции через мобильные телефоны (в тот период смартфонов еще не было): если ваш друг находился там, где погода была не очень, а у вас светило солнце, ваш телефон мог напомнить вам сделать фотографию и отправить другу, чтобы поднять ему настроение. Одним из этих двоих студентов был Майк Кригер, сооснователь Instagram, где теперь более 400 млн пользователей делятся рассветами, закатами и селфи.

Свою теорию Фогг создал до того, как социальные сети захватили мир. Facebook, Instagram и другие подняли бихевиоральный дизайн на такой высокий уровень, о котором он и не мечтал. Социальные приложения черпают свою силу из одного из самых глубоких источников мотивации. В ответ на социальные взаимодействия, причем даже на самые некачественные их имитации, мозг человека выделяет вещества, которые приносят нам удовольствие и формируют привычки, а в качестве самых активных триггеров выступают другие люди: вы, ваши друзья и подписчики постоянно склоняют друг друга к тому, чтобы пользоваться сервисом дольше.

Б. Дж. Фогг происходит из семьи мормонов, благодаря чему он и может похвастаться своим сногсшибательным радушием и потребностью видеть, что его работа делает мир лучше. В ходе нашей беседы его интонация становилась более негативной только тогда, когда речь заходила о злоупотреблении его идеями в коммерческой сфере. Он опасается, что компании вроде Instagram и Facebook используют бихевиоральный дизайн только для того, чтобы превратить пользователей в пленников собственных продуктов. Один из выпускников его программы, Нир Эйял, написал популярную книгу для предпринимателей в сфере высоких технологий и назвал ее «На крючке: как создавать продукты, формирующие привычки».

«Я смотрю на своих бывших учеников и не понимаю, пытаются они сделать мир лучше или просто разбогатеть, - говорит Фогг - я как раз всегда хотел найти способ освободить людей от оков технологий»
Когда Б. Ф. Скиннер продолжил свои эксперименты с ящиком, он заметил, что если крыса постоянно получала одну и ту же награду, то она нажимала рычаг, только если чувствовала голод. Добиться максимального количества нажатий рычага можно было, разнообразив ассортимент наград. Если крыса не знает наверняка, получит она в очередной раз один шарик, ни одного или сразу несколько, то она начинает нажимать на рычаг снова и снова. Крыса становится психологически зависимой. Это явление получило название принципа разнообразия наград.

В книге «На крючке» Эйял утверждает, что в успешных цифровых продуктах используются элементы учения Скиннера. Facebook, Pinterest и другие используют базовые человеческие потребности в общении, одобрении и эмоциональной поддержке, а также распределяют награды по неравномерному расписанию. Каждый раз, когда мы открываем Instagram, Snapchat или Tinder, мы не знаем заранее, поставил ли кто-нибудь лайк нашей фотографии, оставил ли комментарий, написал ли забавный статус или отправил сообщение. Поэтому мы не перестаем нажимать на значок оповещений, смахивать влево и листать ленту.

Эйял несколько модифицировал модель управления поведением Фогга с учетом собственных наблюдений. «Биджей считает, что триггеры являются внешними факторами, - рассказал он мне - но, по-моему, триггеры находятся внутри нас». Приложение становится популярным, утверждает он, если удовлетворяет базовые эмоциональные потребности пользователя еще до того, как он их осознает.
«Когда вы не уверены в своих знаниях о чем-то, вы гуглите до того, как зададитесь вопросом, почему это вам неизвестно. Когда вам одиноко, вы заходите в фейсбук до того, как осознаете свое чувство одиночества. Не успев понять, что вам скучно, вы оказываетесь на ютубе. Никто не заставлял вас это делать. Пользователи сами себя на это настраивают»..
Концентрация Эйяла на бессознательном выборе вызывает один вопрос о бихевиоральном дизайне. Если кто-то решает, каким будет наше поведение, то перед кем несут ответственность эти люди? Именно об этом призывает всех задуматься Тристан Харрис, еще один бывший ученик Фогга. «Биджей создал учение о бихевиоральном дизайне, - говорит Харрис - но он ничего не сказал об этической стороне вопроса. Это я и хочу узнать».

Харрис тоже проходил курс Фогга в 2006 году и был напарником Майка Кригера по проекту Send the Sunshine. Как и Кригер, Харрис создал свое приложение, Apture, которое разъясняло сложные понятия при чтении в интернете: специальное поле появлялось при наведении мышки на нужный термин. Apture хоть и не выстрелило, но все равно стало достаточно успешным, и в 2011 году его купила Google.

Сделка была успешной, но чувствовалось ощущение проигрыша. Харрис верил в свою миссию по объяснению неясного, но не смог убедить издателей в том, что модификация его приложения приведет к тому, что люди станут проводить все больше времени на посторонних сайтах. Он пришел к пониманию того, что возможности интернета информировать и просвещать неинтересны тем, кто ради коммерческой выгоды старается привлечь и удержать внимание людей любыми доступными способами. «Такие компании пытаются вызвать у людей зависимость, и они делают это, используя уязвимые места нашей психологии».
Facebook выделяет для вашего нового фото профиля специальное место в новостной ленте ваших друзей, потому что компания знает, что в этот момент вы наиболее уязвимы для социального одобрения, и эти новые лайки и комментарии заставят вас возвращаться снова и снова.
Когда кто-то хочет добавить вас в свою сеть контактов в LinkedIn, вы получаете уведомление об этом, и оно вызывает небольшой прилив дофамина - какой же я, наверное, классный специалист! - и неважно, что этот человек мог просто машинально кликнуть на вас в меню рекомендуемых контактов. Подсознательные импульсы преобразуются в социальные обязательства, которые привлекают ваше внимание, а это внимание затем продается за деньги.

После работы в Google в течение года Харрис решил уволиться и сосредоточиться на изучении этики цифровой экономики. «Я хотел понять, что за ответственность приходит вместе со способностью влиять на психологию миллиардов людей. Как звучит эта клятва Гиппократа?» Перед уходом из компании он провел прощальную презентацию перед коллегами, в которой пытался убедить их почувствовать ответственность за моральное состояние и внимание миллиардов людей. Неожиданно эта презентация получила вирусную популярность внутри компании и дошла до совета директоров. Харриса убедили остаться и продолжить свои исследования в Google, где специально для него была создана новая должность - специалист по этике дизайна и философии продуктов.

Через какое-то время Харрис понял, что, несмотря на то, что коллеги покорно его слушали, они бы никогда не стали прислушиваться к его словам по своей воле. Ранее в этом году он покинул Google и стал писателем и активистом с той целью, чтобы заставить мир открыть глаза и увидеть, как цифровые технологии лишают нас возможности делать свободный выбор. «Кажется, что бихевиоральный дизайн - это не так уж серьезно, ведь речь идет всего лишь о нажатиях по экрану. Но что если спроецировать это на всю мировую экономику? В таком случае можно уже говорить о настоящей власти».
Меню, которыми пользуются миллиарды людей, разрабатывает небольшая группа людей в возрасте от 25 до 35 лет, изучавших информатику и живущих в Сан-Франциско.
Харрис говорит быстро и четко. Один из его принципов звучит так: «Тот, кто управляет меню, управляет и выбором». Новости, которые мы смотрим, друзья, с которыми общаемся, вакансии, о которых мы слышим, рестораны, в которые думаем сходить, даже наши потенциальные романтические партнеры - все это теперь проходит через фильтр нескольких популярных приложений, в каждом из которых есть свое меню. Это наделяет разработчика меню огромной властью. Любой ресторатор, крупье или маркетолог скажется вам, что можно влиять на финальный выбор, меняя варианты. Ритейлер предложит вам одну из трех цен на выбор, зная, что по меньшей мере 70% покупателей выберут ту, что посередине.

Бывшие соратники Харриса получили чрезмерно большую власть, пусть и случайно. Меню, которыми пользуются миллиарды людей, разрабатывает небольшая группа людей в возрасте от 25 до 35 лет, изучавших информатику и живущих в Сан-Франциско. «Какая моральная система координат существует у них в головах? - задается вопросами Харрис - думают ли они о своей этической ответственности? Есть ли у них время об этом задуматься?»

Чем больше влияния на наше поведение получают эти технологические продукты, тем меньше мы можем сами себя контролировать. «Компании говорят, что просто учатся лучше давать людям то, чего они хотят. Однако человек в среднем проверяет свой телефон 150 раз в день. Является ли это сознательным выбором? Нет. Компании учатся успешнее склонять людей принимать те решения, которые выгодны этим компаниям».
Индустрия азартных игр стала первопроходцем бихевиорального дизайна
В исследовании индустрии игровых автоматов Лас-Вегаса «Дизайн, вызывающий зависимость» антрополог Наташа Доу Шулл приводит цитату анонимного пользователя веб-сайта для борьбы с зависимостями. «Игровые автоматы - это ящики Скиннера для людей! Нетрудно понять, почему им удается приковывать к себе людей. Они для этого и были созданы». Индустрия азартных игр стала первопроходцем бихевиорального дизайна. В частности, «однорукие бандиты» разработаны специально для того, чтобы использовать принцип разнообразных наград. Игрок дергает за рычаг и не знает, что он в итоге получит и выиграет ли что-то вообще, и именно поэтому играет снова и снова.

Свойство игровых автоматов удерживать людей за игрой стало двигателем всей экономики Лас-Вегаса. В течение последних 20 лет рулетки и игровые столы все больше уступали место новому поколению машин: в них нет механизмов, но есть сложные компьютеры, разработанные в тесном сотрудничестве между программистами, математиками, сценаристами и графическими дизайнерами.

Казино делают все, чтобы максимизировать параметр, который они называют «время за устройством». Обстановка, в которой установлены автоматы, создана специально для того, чтобы люди продолжали играть. Они могут заказывать напитки и еду прямо из интерфейса автомата. Освещение, интерьер, уровень шума, даже запах автоматов - все это тщательно продумано и отрегулировано. Важна не только яркость, но и угол, под которым падает свет: исследования доказали, что свет утомляет игроков быстрее всего, если направлен им в лоб.
Именно разнообразие наград - ключ к увеличению времени за устройством
Но именно разнообразие наград - ключ к увеличению времени за устройством. В программу автоматов заложены близкие промахи: выигрышные символы появляются чуть выше или чуть ниже результата игрока намного чаще, чем следовало бы по теории вероятностей, из-за чего игрок получает мотивацию продолжать. Математики рассчитывают расписание выплат, чтобы люди продолжали играть несмотря на то, что неуклонно теряют деньги. Существуют альтернативные расписания для разных типов игроков с разной предрасположенностью к риску: некоторых притягивает возможность играть по-крупному, другие предпочитают делать небольшие ставки (как выразился один из разработчиков в беседе с Шулл, «некоторые любят, когда им пускают кровь по капле»). Математики постоянно совершенствуют свои модели и испытывают новые, оборачивая свои формулы по форме коры головного мозга.

Заядлые игроки говорят о существовании «машинной зоны» - психического состояния, в котором внимание человека приковано к экрану, а весь остальной мир как будто перестает существовать. «Ты словно впадаешь в транс, - рассказывал Шулл один игрок. - Зона подобна магниту, - объяснял другой - она затягивает тебя и не отпускает».

Человеку, который расхотел играть и решает сделать перерыв, может нанести визит «посол удачи», который раздает билеты на шоу или купоны для продолжения игры. Игрок не знает, что все данные о его успехах и неудачах обрабатываются специальным алгоритмом, которые решает, сколько человек может проиграть и все равно чувствовать удовлетворение - иными словами, насколько он близок к «болевой точке». Предложение бесплатного ужина в стейкхаусе превращает эту боль в удовольствие, и у человека снова появляется мотивация продолжать.

Книга Шулл, опубликованная в 2013 году, получила восторженные отзывы за освещение темной стороны игровых автоматов. Но некоторые из читателей увидели в ней новые возможности. Шулл рассказала, что с ней связывались представители одного сервиса онлайн-обучения, которым стало интересно использовать идею «послов удачи». Где находится болевая точка для студента, которому не удается отвечать на вопросы правильно, и что нужно ему для того, чтобы продолжить, а не сдаться? Шулл стали приглашать на конференции для маркетологов и предпринимателей, одну из которых организовывал Нир Эйял.

Лас-Вегас - это весь мир в миниатюре. «Мы сами загоняем себя в гигантский ящик Скиннера, - сказала мне Шулл - в банковской сфере и здравоохранении появляются закономерности, похожие на игру Candy Crush. Их суть - в вовлечении людей в последовательность стимулов и наград. Ваш кофе в Starbucks, ваше образовательное ПО, кредитная карта, лекарство при диабете. Каждый пользовательский интерфейс становится похож на игровой автомат».

Очевидно, сегодня у каждого из нас в кармане есть собственный игровой автомат.
Кремниевая долина купается в солнечном свете. В основном там работают оптимисты, которые уверены, что возможности созданных ими продуктов помогут расширить потенциал людей. Как и Фогг, Эйял искренне хочет сделать мир лучше. «Дизайн продуктов стал для меня едва ли не религией. Разработчики способны улучшить жизнь людей, найти проблемные моменты и помочь их устранить». Он не согласен с тем, что влиять на людей - значит делать им что-то плохое.
«Привычки могут быть полезными и вредными, и технологии способны помочь развивать полезные привычки. Если продукты могут активнее вовлекать вас в их использование, это не проблема, а прогресс».
Руководители игровых компаний, с которыми общалась Шулл, не были плохими людьми. Они считают, что просто предлагают клиентам новые и более удобные способы получить то, что им нужно. Никого не обманывали и не принуждали расстаться со своими деньгами. Однако, как замечает Шулл, это отношение не работает в обе стороны одинаково. Для игроков зона - это самоцель, для игровой индустрии же это источник заработка денег. Тристан Харрис видит всю электронную экономику в подобном ключе. Неважно, насколько полезен продукт, сама система настраивается так, как пожелают разработчики. Они всегда оказываются в выигрыше. «Существует фундаментальный конфликт между нуждами людей и нуждами бизнеса», - поясняет Харрис. Он не говорит о том, что компании состоят в тайном сговоре, целью которого является управление умами людей - не Google или Apple сделали смартфоны игровыми автоматами нового типа. Однако главная цель системы - увеличить время, проводимое нами за использованием устройств, и так получилось, что лучший способ этого добиться - распределить награды для испытуемого по особому расписанию.

Это также означает необходимость закрыть ящик снаружи. Вещи, которые не важны для человека, связываются с вещами, очень важными для него - вы играете в игры и читаете сплетни о знаменитостях на том же самом устройстве, которое сообщит вам, что вашей дочери нездоровится. Так что вы не станете отключать или как-то еще расставаться с этим устройством. Кроме того, вы ведь можете пропустить очередной магический момент в инстаграме.
«Некоторые люди переживают по поводу использования искусственного интеллекта, - говорит Харрис - они задаются вопросом, можно ли максимизировать его потенциал без вреда для человечества. Но ИИ уже здесь, и он носит название «интернет». Мы создали черный ящик, который постоянно находит новые способы заставить нас делать те или иные вещи, переводя нас из одного уязвимого состояния в другое».
Теоретически при желании все мы могли бы вырваться из порочного круга стимулов и наград, но мало кто идет на это. Ведь намного проще принять и подключиться. Так что если мы и находимся в заложниках каптологии, то делаем это по своей воле.
Источник: The Economist.
Перевод: Алексей Зеньков.
Иллюстрации: Билл Бутчер.
Выпускающий редактор: Полина Тодорова.

Источник: rb.ru

Комментарии: