Новый контроль сознания: как Google может манипулировать выборами

Роберт Эпштейн - ведущий научный психолог Американского института поведенческих исследований и технологий (Калифорния). Он автор 15 книг и бывший главный редактор журнала Psychology Today. В издании Aeon вышло превью его книги «Новый контроль сознания» (New Mind Control) - большое эссе о том, как Google может влиять на исход выборов без нашего ведома. Apparat публикует перевод текста.

Интернет создал утончённые формы влияния, которые могут кардинально влиять на результаты выборов и управлять всем, что мы говорим, думаем и делаем.
В прошлом веке многие великие писатели выражали свою озабоченность будущим человечества. В романе «Железная пята» (1908-е лето) американский писатель Джек Лондон изобразил мир, в котором горстка состоятельных корпоративных титанов - «олигархов» - удерживает народные массы в страхе с помощью жестокой системы поощрений и наказаний. Большинство людей пребывают в фактическом рабстве, в то время как немногие счастливцы получают хорошую зарплату, позволяющую им жить в комфортных условиях - однако без какого-либо реального контроля над своей жизнью.

В романе «Мы» (1924) блестящий руский писатель Евгений Замятин, предчувствуя крайности в политике только что созданного Советского Союза, представил мир, где людей держат под контролем с помощью тотального наблюдения. Стены их домов сделаны из прозрачного стекла, так что можно наблюдать всё, что они делают. Опустить шторы, чтобы заняться сексом, они могут лишь на один час в день - но нужно зарегистрировать время свидания и личности самих любовников.

«О дивный новый мир» (1932) британца Олдоса Хаксли изображает почти идеальное общество, в котором людей избавили от грусти и агрессии путем сочетания генетической инженерии и прививания условных рефлексов. В значительно более мрачном романе «1984- (1949) соотечественник Хаксли Джордж Оруэлл описал общество, в котором контролируется мысль сама по себе; в мире Оруэлла детей учат использовать упрощённую форму английского - новояз - чтобы они никогда не смогли выразить опасные для общества идеи.

Это, конечно же, вымышленные истории, и в каждой из них получившие власть правители используют заметные формы контроля, которым активно сопротивляется хотя бы небольшая группа людей, и иногда она побеждает. Но в документальном бестселлере «Тайные манипуляторы» (1957) - недавно перевыпущенном на свое 50-летие - американский журналист Вэнс Паккард описал «странный и довольно необычный» тип влияния, который быстро распространялся в США, что делало его в некотором роде более опасным, чем выдуманные формы контроля, описанные в этих романах. Как утверждал Паккард, руководители американских корпораций и политики стали использовать утончённые и часто совершенно нераспознаваемые способы изменить человеческое мышление, его эмоции и поведение. Они основывались на достижениях психиатрии и социальных наук.

Многие из нас слышали хотя бы об одном из этих методов - подсознательном стимулировании, которое Паккард называл «подпороговыми эффектами». Это демонстрирование коротких посланий, которые указывают нам, что нужно делать - но их показывают так мгновенно, что мы даже не подозреваем о их существовании. В 1958-м Национальная ассоциация вещателей - организация, устанавливающая стандарты для телевидения США - запретила использование подсознательных посланий в телевещании. Это решение было вызвано общественным беспокойством из-за кинотеатра в Нью-Джерси, который предположительно использовал скрытые послания в фильмах для увеличения продаж мороженого. В 1974-м Федеральная комиссия по связи заявила, что использование таких посланий «противоречит интересам общества». Законопроект о запрете подсознательных посланий был также подан в Конгресс США, но его так и не приняли. В Великобритании и Австралии есть законы, строго запрещающие их использование.

Вероятно, в США до сих пор широко используют подсознательное стимулирование - его всё же сложно обнаружить, и никто за этим не следит. Но вряд ли об этом стоит волноваться. Исследования показывают, что его влияние незначительно, и оно в основном затрагивает людей, уже готовых ему следовать; подсознательные указания попить влияют на людей только если они уже чувствуют жажду.

Однако Паккард обнаружил значительно более важную проблему: влиятельные корпорации постоянно ищут и во многих случаях уже используют широкий спектр техник, которые контролируют людей без их ведома. Он описал некий сговор, в рамках которого торговцы тесно работают с исследователями социальных наук, чтобы определить, среди прочего, как заставить людей покупать ненужные им вещи и как сделать маленьких детей хорошими потребителями - наклонности, которые открыто прививались в «Дивном новом мире» Хаксли. Опираясь на социальные науки, торговцы быстро научились играть на человеческой неуверенности, слабости, подсознательных страхах, агрессивных ощущениях и половом влечении, чтобы изменять мышление, эмоции и поведение. При этом люди даже не осознают, что ими манипулируют.

В начале 50-х, утверждал Паккард, политики поняли эту схему и начали продвигать себя, взяв на вооружение те же тонкие силы, которые используют продавцы мыла. Паккард начал свою главу о политике с тревожной цитаты британского экономиста Кеннета Боулдинга: «Мир невидимой диктатуры возможен, хоть он и будет использовать формы демократического правления». Может ли на самом деле такое случиться - а если да, то как это будет работать?

Описанные Паккардом силы за несколько десятилетий значительно распространились. Спокойная музыка в супермаркетах заставляет нас ходить более медленно и покупать больше еды, даже если она нам не нужна. Большинство праздных мыслей и сильных эмоций, которые ежедневно ощущают подростки, тщательно спланированы высококлассными маркетинговыми профессионалами, работающими в индустрии моды и развлечений. Политики работают с огромным количеством консультантов, которые тестируют каждую деталь, помогающую привлечь избирателей: одежда, интонации, мимика лица, макияж, прическа и произношение оптимизированы так же, как и упаковка овсянки. Можете даже узреть насмешку в разговоре Клэр с консультантом по поводу оттенка платья. (примечание Ас - сериал "карточный домик")

К счастью, все эти источники влияния соперничают между собой. Некоторые из манипуляторов хотят, чтобы мы купили или поверили во что-то одно, другие - во что-то иное. Именно соревновательная природа нашего общества позволяет нам оставаться в целом относительно свободными.

Но что случится, если новые источники контроля почти или полностью перестанут соперничать? А что, если возникнут новые способы контроля - значительно более мощные и значительно более незаметные, чем в прошлом? А что, если новые типы контроля позволят небольшому количеству людей получить огромное влияние не только над гражданами США, но и над большинством людей Земли?

Вы можете удивиться, но это уже случилось.

Google решает, какие веб-страницы включить в поисковую выдачу и как их ранжировать. Также, как теперь корректоры P(f)acebook решают, что идёт в новости и какой окрас они приобретают, а что не идёт.
Чтобы понять, как работает новый контроль сознания, нам нужно сначала посмотреть на поисковую систему Google. Её поиск настолько популярен, что название компании теперь широко используется как глагол в разных мировых языках. «Погуглить» что-то значит найти это в поисковике Google, хотя на самом деле это означает украсть (иврит). Именно так большинство пользователей компьютеров во всём мире сейчас получают большинство информации обо всем на свете. Они "гуглят" это. Google стал вратами к простейшим знаниям - главным образом из-за того, что действенности поискового движка. Он обеспечивает нужной информацией почти мгновенно и почти всегда на первом месте в «результатах поиска» (списке, который появляется после его запуска).

Этот упорядоченный список на самом деле столь хорош, что в половине случаев мы открываем лишь первые два его пункта. К 10 пунктам, размещённым на первой странице результатов, уходят больше 90 процентов кликов. Очень мало людей открывают другие страницы выдачи, несмотря на то, что часто этих страниц тысячи - а значит в них, вероятно, можно найти много полезной информации. Google решает, какие из миллиардов веб-страниц он включит в наши поисковые результаты и как их ранжировать. Как он принимает эти решения - глубокая темная тайна, одна из самых охраняемых в мире, как формула Кока-Колы.

Из-за того, что люди намного вероятнее увидят и откроют самые верхние ссылки, компании сейчас тратят миллиарды долларов каждый год, пытаясь обмануть поисковый алгоритм Google - компьютерную программу, которая отбирает и ранжирует страницы - чтобы поднять себя на один-два пункта вверх. Поднятие на один пункт может определять разницу между успехом и провалом для бизнеса, а продвижение на самый верх может быть ключом к обильным доходам.

В конце 2012 года я начал интересоваться, могут ли верхние результаты в поисковой выдаче влиять на что-либо большее, чем выбор потребителя. Пожалуй, думал я, первые пункты выдачи не могут оказывать значительное воздействие на мнения людей о разных вещах. В начале 2013 года вместе с коллегой Рональдом Робертсоном из Американского института поведенческих исследований и технологий (Виста, Калифорния), я протестировал эту идею путем эксперимента, в котором приняли участие 102 человека из округа Сан-Диего, распределенных случайным образом в три группы. В первой группе люди получали поисковые результаты, отдающие предпочтение одному политическому кандидату - они вели на страницы, где этого кандидата изображали лучшим, чем его оппонента. Во второй группе люди видели выдачу, выделяющую противоборствующего кандидата. Члены третьей, контрольной группы получали смешанные результаты, которые не делали акцент на каком-либо из кандидатов. В разных группах использовались одни и те же поисковые результаты и веб-страницы; единственной разницей было упорядочение поисковой выдачи.

Чтобы сделать эксперимент реалистичным, мы использовали реальные поисковые результаты, которые вели на реальные веб-страницы. Также мы взяли реальные выборы - премьер-министра Австралии в 2010 году. Мы использовали иностранные выборы, чтобы убедиться в том, что участники не определились со своим выбором до проведения эксперимента. Их неознакомленность с кандидатами обеспечила это. Кроме того, с помощью мы набрали этнически разнообразную группу избирателей разного возраста, чтобы соответствовать основным демографическим характеристикам американских избирателей.

Сначала мы предоставили всем участникам краткие описания кандидатов, после чего попросили оценить их различными способами и определить кандидата, за которого они проголосовали бы. Как вы и могли предположить, участники вначале не отдали предпочтения ни одному из кандидатов по всем пяти параметрам, которые мы использовали; голоса распределились в каждой из трех групп поровну. Затем участники получили до 15 минут на онлайн-поиск в нашем тестовом поисковике «Kadoodle», которые предоставил им доступ к пяти страницам поисковых результатов со ссылками на веб-сайты. Люди могли свободно перемещаться между выдачей веб-страницами так же, как мы делаем это при использовании Google. Когда участники завершили свой поиск, мы попросили их снова оценить кандидатов и определить, за кого они бы проголосовали.

Мы предполагали, что 2 или 3 процента людей из двух «предвзятых» групп - в которых люди получали благосклонную к одному из кандидатов выдачу - изменят свои мнения и предпочтения в сторону этого кандидата. Но наш результат был ошеломляющим. Соотношение людей, предпочитающих кандидата с лучшей выдачей, увеличилось на 48,4%, и каждый из пяти параметров сместился в сторону этого кандидата. Кроме того, 75% людей даже не заметили, что они просматривали предвзятую поисковую выдачу. В контрольной группе мнения значительно не изменились.

Это выглядело огромным открытием. Вызванный нами сдвиг предпочтений, который мы назвали Манипуляционным эффектом поисковой системы (или SEME, Search Engine Manipulation Effect), оказался одним из крупнейших когда-либо открытых поведенческих эффектов. Но мы не стали сразу открывать шампанское. Все же мы провели испытание на небольшом количестве людей, и они все были из округа Сан-Диего.

За следующее лето мы трижды воспроизвели свои находки, в последний раз - с выборкой из более чем 2000 людей из всех 50 штатов США. В этом эксперименте сдвиг предпочтений избирателей равнялся 37,1%, а в некоторых демографических группах был даже выше - до 80%.

Мы также узнали в этой серии экспериментов, что лишь небольшое уменьшение предвзятости на первой странице поисковой выдачи - включение на третье или четвертое место одной страницы, которая отдавала предпочтение другому кандидату - позволило нам замаскировать наше манипулирование. Таким образом, лишь очень немногие люди могли определить, что они просматривают предубежденную выдачу - а иногда вообще никто не мог этого сделать. Мы все еще могли создать огромный сдвиг предпочтений избирателей, но уже незаметно.

И всё равно мы пока не открывали шампанское. Наши результаты были уверенными и последовательными, но все эксперименты затрагивали иностранные выборы - всё ту же австралийскую гонку 2010 лета. Могут ли изменяться предпочтения настоящих избирателей в разгар реальной кампании? Мы были настроены скептически. На настоящих выборах людей заваливают различными источниками информации, и они также много знают о кандидатах. Слабо верилось в то, что один сеанс работы с поисковой системой может сильно повлиять на предпочтения избирателей.

Чтобы определить это, в начале 2014 лета мы отправились в Индию как раз перед началом голосования на крупнейших в мире демократических выборах - выборах в Лок сабху (нижнюю палату парламента - прим. переводчика), которая избирает премьер-министра. Тремя главными кандидатами были Рахул Ганди, Арвинд Кеджривал и Нарендра Моди. Используя пул онлайн-экспертов, а также печатную и онлайн-рекламу, мы привлекли к нашему эксперименту 2150 неопределившихся избирателей из 27 индийских штатов и территорий (всего их 35).

Наблюдая за президентскими выборами в США, я вижу очевидные знаки того, что Google поддерживает Хиллари Клинтон. В апреле 2015 лета Клинтон наняла своим техническим директором Стефани Хэннон, которая до этого работала в Google. А несколько месяцев назад председатель совета директоров компании, которая управляет Google (Alphabet Inc. - прим. переводчика), Эрик Шмидт запустил полусекретную компанию - The Groundwork - с конкретной целью помочь Клинтон избраться. Создание The Groundwork побудило основателя Wikileaks Джулиана Ассанжа назвать Google «секретным оружием» Клинтон в ее борьбе за пост президента.

По нашим оценкам, старые друзья Хэннон могут принести Клинтон от 2,6 до 10,4 миллионов голосов в день выборах, при том, что никто не узнает об этом и не останется ни одного бумажного следа. Они также могут помочь ей выиграть номинацию (от Демократической партии - прим. переводчика), конечно, оказывая влияние на неопределившихся избирателей во время праймериз. Колеблющиеся избиратели всегда были ключом к победе на выборах, и еще никогда не было столько мощного, эффективного и недорого способа привлечь их, чем SEME.

Мы живём в мире, в котором несколько высокотехнологичных компаний, иногда работая рука об руку с властями, не только мониторят большинство нашей деятельности, но также всё больше невидимо контролируют, что мы думаем, чувствуем, делаем и говорим. Окружающая нас технология - не просто безобидная игрушка и отнюдь не шутка. Она также сделала возможными необнаружимые безследные манипуляции целыми народами - манипуляции, которые не имеют прецедентов в истории человечества, и которые сейчас находятся полностью вне существующих регуляций и законов. Новые тайные манипуляторы более крупные, смелые и опасные, чем всё, что описывал Вэнс Паккард. Если мы решим игнорировать это, мы делаем это на свой страх и риск.

Комментарии: