Новый контроль сознания: как Google может манипулировать выборами.

Роберт Эпштейн - ведущий научный психолог Американского института поведенческих исследований и технологий (Калифорния). Он автор 15 книг и бывший главный редактор журнала Psychology Today. В издании Aeon вышло превью его книги «Новый контроль сознания» (New Mind Control) - большое эссе о том, как Google может влиять на исход выборов без нашего ведома. Apparat публикует перевод текста.

Интернет создал утонченные формы влияния, которые могут кардинально влиять на результаты выборов и управлять всем, что мы говорим, думаем и делаем.

В прошлом веке многие великие писатели выражали свою озабоченность будущим человечества. В романе «Железная пята» (1908 год) американский писатель Джек Лондон изобразил мир, в котором горстка состоятельных корпоративных титанов - «олигархов» - удерживает народные массы в страхе с помощью жестокой системы поощрений и наказаний. Большинство людей пребывают в фактическом рабстве, в то время как немногие счастливцы получают хорошую зарплату, позволяющую им жить в комфортных условиях - однако без какого-либо реального контроля над своей жизнью.

В романе «Мы» (1924) блестящий русский писатель Евгений Замятин, предчувствуя крайности в политике только что созданного Советского Союза, представил мир, где людей держат под контролем с помощью тотального наблюдения. Стены их домов сделаны из прозрачного стекла, так что можно наблюдать все, что они делают. Опустить шторы, чтобы заняться сексом, они могут лишь на один час в день - но нужно зарегистрировать время свидания и личности самих любовников.

«О дивный новый мир» (1932) британца Олдоса Хаксли изображает почти идеальное общество, в котором людей избавили от грусти и агрессии путем сочетания генетической инженерии и прививания условных рефлексов. В значительно более мрачном романе «1984- (1949) соотечественник Хаксли Джордж Оруэлл описал общество, в котором контролируется мысль сама по себе; в мире Оруэлла детей учат использовать упрощенную форму английского - новояз - чтобы они никогда не смогли выразить опасные для общества идеи.

Это, конечно же, вымышленные истории, и в каждой из них получившие власть правители используют заметные формы контроля, которым активно сопротивляется хотя бы небольшая группа людей, и иногда она побеждает. Но в документальном бестселлере «Тайные манипуляторы» (1957) - недавно перевыпущенном на свое 50-летие - американский журналист Вэнс Паккард описал «странный и довольно необычный» тип влияния, который быстро распространялся в США, что делало его в некотором роде более опасным, чем выдуманные формы контроля, описанные в этих романах. Как утверждал Паккард, руководители американских корпораций и политики стали использовать утонченные и часто совершенно нераспознаваемые способы изменить человеческое мышление, его эмоции и поведение. Они основывались на достижениях психиатрии и социальных наук.

Многие из нас слышали хотя бы об одном из этих методов - подсознательном стимулировании, которое Паккард называл «подпороговыми эффектами». Это демонстрирование коротких посланий, которые указывают нам, что нужно делать - но их показывают так мгновенно, что мы даже не подозреваем о их существовании. В 1958 году Национальная ассоциация вещателей - организация, устанавливающая стандарты для телевидения США - запретила использование подсознательных посланий в телевещании. Это решение было вызвано общественным беспокойством из-за кинотеатра в Нью-Джерси, который предположительно использовал скрытые послания в фильмах для увеличения продаж мороженого. В 1974 году Федеральная комиссия по связи заявила, что использование таких посланий «противоречит интересам общества». Законопроект о запрете подсознательных посланий был также подан в Конгресс США, но его так и не приняли. В Великобритании и Австралии есть законы, строго запрещающие их использование.

Вероятно, в США до сих пор широко используют подсознательное стимулирование - его все же сложно обнаружить, и никто за этим не следит. Но вряд ли об этом стоит волноваться. Исследования показывают, что его влияние незначительно, и оно в основном затрагивает людей, уже готовых ему следовать; подсознательные указания попить влияют на людей, только если они уже чувствуют жажду.

Однако Паккард обнаружил значительно более важную проблему: влиятельные корпорации постоянно ищут и во многих случаях уже используют широкий спектр техник, которые контролируют людей без их ведома. Он описал некий сговор, в рамках которого торговцы тесно работают с исследователями социальных наук, чтобы определить, среди прочего, как заставить людей покупать ненужные им вещи и как сделать маленьких детей хорошими потребителями - наклонности, которые открыто прививались в «Дивном новом мире» Хаксли. Опираясь на социальные науки, торговцы быстро научились играть на человеческой неуверенности, слабости, подсознательных страхах, агрессивных ощущениях и половом влечении, чтобы изменять мышление, эмоции и поведение. При этом люди даже не осознают, что ими манипулируют.

В начале 50-х годов, утверждал Паккард, политики поняли эту схему и начали продвигать себя, взяв на вооружение те же тонкие силы, которые используют продавцы мыла. Паккард начал свою главу о политике с тревожной цитаты британского экономиста Кеннета Боулдинга: «Мир невидимой диктатуры возможен, хоть он и будет использовать формы демократического правления». Может ли на самом деле такое случиться - а если да, то как это будет работать?

Кадр из фильма "They Live" (1988) Джона Карпентера

Описанные Паккардом силы за несколько десятилетий значительно распространились. Спокойная музыка в супермаркетах заставляет нас ходить более медленно и покупать больше еды, даже если она нам не нужна. Большинство праздных мыслей и сильных эмоций, которые ежедневно ощущают подростки, тщательно спланированы высококлассными маркетинговыми профессионалами, работающими в индустрии моды и развлечений. Политики работают с огромным количеством консультантов, которые тестируют каждую деталь, помогающую привлечь избирателей: одежда, интонации, мимика лица, макияж, прическа и произношение оптимизированы так же, как и упаковка овсянки.

К счастью, все эти источники влияния соперничают между собой. Некоторые из манипуляторов хотят, чтобы мы купили или поверили во что-то одно, другие - во что-то иное. Именно соревновательная природа нашего общества позволяет нам оставаться в целом относительно свободными.

Но что случится, если новые источники контроля почти или полностью перестанут соперничать? А что, если возникнут новые способы контроля - значительно более мощные и значительно более незаметные, чем в прошлом? А что, если новые типы контроля позволят небольшому количеству людей получить огромное влияние не только над гражданами США, но и над большинством людей Земли?

Вы можете удивиться, но это уже случилось.

Google решает, какие веб-страницы включить в поисковую выдачу и как их ранжировать. Как это происходит - одна из самых охраняемых тайн в мире, как формула Кока-Колы.

Чтобы понять, как работает новый контроль сознания, нам нужно сначала посмотреть на поисковую систему - конкретно одну, крупнейшую и самую лучшую из всех - Google. Ее поиск настолько хорош и популярен, что название компании теперь широко используется как глагол в разных мировых языках. «Погуглить» что-то значит найти это в поисковике Google. Именно так большинство пользователей компьютероа во всем мире сейчас получают большинство информации обо всем на свете. Они гуглят это. Google стал вратами практически ко всем знаниям - главным образом из-за того, что его поисковый движок такой действенный. Он обеспечивает нас нужной информацией почти мгновенно и почти всегда на первом месте в «результатах поиска» (списке, который появляется после его запуска).

Этот упорядоченный список на самом деле столь хорош, что в половине случаев мы открываем лишь первые два его пункта. К 10 пунктам, размещенным на первой странице результатов, уходят больше 90 процентов кликов. Очень мало людей открывают другие страницы выдачи, несмотря на то, что часто этих страниц тысячи - а значит в них, вероятно, можно найти много полезной информации. Google решает, какие из миллиардов веб-страниц он включит в наши поисковые результаты и как их ранжировать. Как он принимает эти решения - глубокая темная тайна, одна из самых охраняемых в мире, как формула Кока-Колы.

Иллюстрация: Adam Simpson, New Yorker

Из-за того, что люди намного вероятнее увидят и откроют самые верхние ссылки, компании сейчас тратят миллиарды долларов каждый год, пытаясь обмануть поисковый алгоритм Google - компьютерную программу, которая отбирает и ранжирует страницы - чтобы поднять себя на один-два пункта вверх. Поднятие на один пункт может определять разницу между успехом и провалом для бизнеса, а продвижение на самый верх может быть ключом к обильным доходам.

В конце 2012 года я начал интересоваться, могут ли верхние результаты в поисковой выдаче влиять на что-либо большее, чем выбор потребителя. Пожалуй, думал я, первые пункты выдачи не могут оказывать значительное воздействие на мнения людей о разных вещах. В начале 2013 года вместе с коллегой Рональдом Робертсоном из Американского института поведенческих исследований и технологий (Виста, Калифорния), я протестировал эту идею путем эксперимента, в котором приняли участие 102 человека из округа Сан-Диего, распределенных случайным образом в три группы. В первой группе люди получали поисковые результаты, отдающие предпочтение одному политическому кандидату - они вели на страницы, где этого кандидата изображали лучшим, чем его оппонента. Во второй группе люди видели выдачу, выделяющую противоборствующего кандидата. Члены третьей, контрольной группы получали смешанные результаты, которые не делали акцент на каком-либо из кандидатов. В разных группах использовались одни и те же поисковые результаты и веб-страницы; единственной разницей было упорядочение поисковой выдачи.

Чтобы сделать эксперимент реалистичным, мы использовали реальные поисковые результаты, которые вели на реальные веб-страницы. Также мы взяли реальные выборы - премьер-министра Австралии в 2010 году. Мы использовали иностранные выборы, чтобы убедиться в том, что участники не определились со своим выбором до проведения эксперимента. Их неознакомленность с кандидатами обеспечила это. Кроме того, с помощью мы набрали этнически разнообразную группу избирателей разного возраста, чтобы соответствовать основным демографическим характеристикам американских избирателей.

Сначала мы предоставили всем участникам краткие описания кандидатов, после чего попросили оценить их различными способами и определить кандидата, за которого они проголосовали бы. Как вы и могли предположить, участники вначале не отдали предпочтения ни одному из кандидатов по всем пяти параметрам, которые мы использовали; голоса распределились в каждой из трех групп поровну. Затем участники получили до 15 минут на онлайн-поиск в нашем тестовом поисковике «Kadoodle», которые предоставил им доступ к пяти страницам поисковых результатов со ссылками на веб-сайты. Люди могли свободно перемещаться между выдачей веб-страницами так же, как мы делаем это при использовании Google. Когда участники завершили свой поиск, мы попросили их снова оценить кандидатов и определить, за кого они бы проголосовали.

Мы предполагали, что 2 или 3 процента людей из двух «предвзятых» групп - в которых люди получали благосклонную к одному из кандидатов выдачу - изменят свои мнения и предпочтения в сторону этого кандидата. Но наш результат был ошеломляющим. Соотношение людей, предпочитающих кандидата с лучшей выдачей, увеличилось на 48,4%, и каждый из пяти параметров сместился в сторону этого кандидата. Кроме того, 75% людей даже не заметили, что они просматривали предвзятую поисковую выдачу. В контрольной группе мнения значительно не изменились.

Это выглядело огромным открытием. Вызванный нами сдвиг предпочтений, который мы назвали Манипуляционным эффектом поисковой системы (или SEME, Search Engine Manipulation Effect), оказался одним из крупнейших когда-либо открытых поведенческих эффектов. Но мы не стали сразу открывать шампанское. Все же мы провели испытание на небольшом количестве людей, и они все были из округа Сан-Диего.

За следующий год мы трижды воспроизвели свои находки, в последний раз - с выборкой из более чем 2000 людей из всех 50 штатов США. В этом эксперименте сдвиг предпочтений избирателей равнялся 37,1%, а в некоторых демографических группах был даже выше - до 80%.

Мы также узнали в этой серии экспериментов, что лишь небольшое уменьшение предвзятости на первой странице поисковой выдачи - включение на третье или четвертое место одной страницы, которая отдавала предпочтение другому кандидату - позволило нам замаскировать наше манипулирование. Таким образом, лишь очень немногие люди могли определить, что они просматривают предубежденную выдачу - а иногда вообще никто не мог этого сделать. Мы все еще могли создать огромный сдвиг предпочтений избирателей, но уже незаметно.

И все равно мы пока не открывали шампанское. Наши результаты были уверенными и последовательными, но все эксперименты затрагивали иностранные выборы - все ту же австралийскую гонку 2010 года. Могут ли изменяться предпочтения настоящих избирателей в разгар реальной кампании? Мы были настроены скептически. На настоящих выборах людей заваливают различными источниками информации, и они также много знают о кандидатах. Слабо верилось в то, что один сеанс работы с поисковой системой может сильно повлиять на предпочтения избирателей.

Чтобы определить это, в начале 2014 года мы отправились в Индию как раз перед началом голосования на крупнейших в мире демократических выборах - выборах в Лок сабху (нижнюю палату парламента - прим. переводчика), которая избирает премьер-министра. Тремя главными кандидатами были Рахул Ганди, Арвинд Кеджривал и Нарендра Моди. Используя пул онлайн-экспертов, а также печатную и онлайн-рекламу, мы привлекли к нашему эксперименту 2150 неопределившихся избирателей из 27 индийских штатов и территорий (всего их 35).

В отличие от подсознательных стимулов, SEME обладает огромным влиянием - как привидение Каспер, толкающее вас вниз по лестнице

Участников случайным образом распределили в три группы. Во всех поиск отдавал предпочтение соответственно Ганди, Кеджривалу или Моди. Как и можно было ожидать, уровни узнаваемости кандидатов были высокими - между 7,7 и 8,5 по десятибалльной шкале. Мы предполагали, что наше манипулирование даст очень небольшой эффект, если какой-либо вообще будет. Но результаты оказались не такими. В среднем мы смогли изменить соотношение людей, отдающих предпочтение любому конкретному кандидату, в целом больше чем на 20%, а в некоторых демографических группах - больше чем на 60%. Что более тревожно, 99,5% участников не заметили, что просматривают предвзятую поисковую выдачу - другими словами, что ими манипулируют.

Премьер-министр Индии Нарендра Моди и исполнительный директор Google Сундар Пичаи в головном офисе Google в Маунтин Вью. Фото: Reuters

На самом деле почти полная незаметность SEME очень интересна. Это значит, что когда люди - включая вас и меня - просматривают предубежденную выдачу, они считают, что с ней все в порядке. Так что если прямо сейчас вы поищете в Google «кандидаты в президенты США», результаты поиска, вероятно, будут выглядеть довольно случайными, даже если они отдают предпочтение одному кандидату. Даже мне сложно находить предвзятость в поисковой выдаче - при этом мне известно, что она предубеждена (потому что ее подготовили мои сотрудники). И все же наши рандомизированные контролированные эксперименты снова и снова показывают, что когда верхние пункты выдачи ведут на страницы, которые отдают предпочтение одному кандидату, это сильно воздействует на мнения неопределившихся избирателей - в основном из-за той простой причины, что людям свойственно открывать только первые ссылки. Это правда пугает: как и подсознательные стимулы, SEME является невидимой силой; но в отличие от подсознательных стимулов, он обладает огромным влиянием - как привидение Каспер, толкающее вас вниз по лестнице.

Комментарии: