Почему мы верим пропаганде: как когнитивные искажения формируют картину мира

Когнитивные искажения — неотъемлемая часть нашего мышления. Это систематические отклонения в восприятии и поведении, в основе которых лежат стереотипы, предубеждения, сбои в обработке информации и особенности строения мозга. Когнитивные искажения могут приводить к неточности суждений, иррациональному поведению и нелогичным интерпретациям фактов и событий.

Как вообще получилось, что мы все склонны к ошибкам мышления, если они ведут к, казалось бы, негативным последствиям? И для чего они всё-таки нужны? Ответы на эти и другие вопросы в подробном исследовательском разборе когнитивных искажений, которые используют манипуляторы и пропагандисты, дает социолингвист Мария Евстигнеева, автор телеграм-канала Пропагандистилляция, вице-президент Гатчинского института интегральных исследований. Почему люди склонны подчиняться авторитетам и как Оскар Кучера подтверждает это в интервью Дудю? При помощи каких мистификаций Никита Михалков в «Бесогоне» манипулирует сознанием телезрителей? И с помощью какой фундаментальной ошибки Путин оправдывает свою политику?

Когнитивные искажения, по сути, это результат заложенного в нас эволюцией стереотипного, шаблонного мышления?, которое нужно для того, чтобы мы могли быстро принимать решения в случаях, когда в приоритете именно скорость, а не качество решения, особенно в условиях неопределенности — так называемая «эвристика» — которая может быть в целом полезна, но зачастую приводит к системным ошибкам мышления?.

Эволюционно продуманные механизмы мышления формировались не на пустом месте: в ситуациях опасности, как правило, нет времени проанализировать ситуацию, поэтому мозг формирует шаблоны и паттерны, которые нам указывают на то, что «надо бежать». Например, поэтому мы вздрагиваем от громких звуков, или инстинктивно напрягаемся, увидев безнадзорное животное, или ускоряем шаг, почувствовав чужие шаги за спиной. Ни то, ни другое, ни третье может не представлять совершенно никакой опасности, но заложенные в нас шаблоны заставляют нас опасаться «на всякий случай» и принимают решение за нас: мы можем и не заметить ускорения своей походки, но оно происходит. Но всё это — скорее базовый уровень физиологических рефлекторных реакций. Более сложные, но всё еще автоматические реакции, связанные с нефизиологической опасностью, а скорее психологической, развивались пропорционально усложнению наших психических функций и социальных отношений.

С развитием человечества как социальной структуры усложнялось и наше мышление, и, соответственно, шаблоны, помогающие нам избежать опасности. 

И чем более крепким и устойчивым становилось общество людей как упорядоченная, стабильная конструкция, тем более укреплялись социальные стереотипы как инструмент быстрого оценивания ситуации и принятия решений в условиях неопределенности. 

Базовый механизм разделения на «свой-чужой» строится именно на этом процессе типологизирования и стереотипизации. Борьба за пропитание, ресурсы, территории и безопасность так или иначе стимулировала человеческие группы формулировать в своей картине мира типологию тех, с кем мы ресурсы делим (со своими), а у кого отнимаем (чужие), кого мы защищаем (своих), а кого убиваем (чужих). По мере развития человеческого мышления, ценностей и культуры, согласно интегральному подходу Кена Уилбера, теории эмерджентных уровней развития Клэра Грейвза и спиральной динамике Дона Бэка и Криса Кована, эти различия концептуально усложнялись: если на первом этапе развития свой-чужой — это я/другой, или нечто, способствующее выживанию/не способствующее, то далее, с развитием базовых социальных, племенных структур, свой — член племени, чужой — член другого племени; еще уровнем выше: я, борющийся за господство/другой, борющийся за господство; далее: моя этническая и/или религиозная группа/чужая, и так далее. Рабовладельческие системы, множество войн, религиозные и политические репрессии, если не рассматривали это как основу, то уж точно использовали механизм стереотипизации для своих целей.

В общем, склонность к обобщениям — базовый механизм нашего мышления, более того, совершенно необходимый для его развития. Швейцарский психолог Жан Пиаже, посвятивший свою научную жизнь изучению детского мышления, а также выдающийся русский ученый Лев Выготский, выделяли несколько стадий когнитивного развития, через которые ребенок последовательно проходит. И если на более ранних стадиях речь и называние предметов носят в сознании ребенка конкретный характер (ребенок уверен, что слово «собака» означает именно вот это конкретное животное, которое живет в его семье у него дома, а слово «мама» — именно его маму), то на более высокой стадии ребенок совершает удивительное открытие: мама — это то, что есть и у него, и у его товарища по песочнице, то есть, это категория некоей обобщенной социальной роли, а собака — это вид животного, они бывают разные, но объединяются определенными общими признаками, которые отличают их, например, от кошек.

Почему без когнитивных искажений не было бы мышления

Как бы парадоксально это ни звучало, но способность к обобщениям расширяет возможности нашего сознания, она дает нам способность категоризировать и анализировать окружающий мир, потому что иначе мы были бы всегда заперты в четырех стенах нашего индивидуального мира и остались бы на базовых потребностях выживания, так как не смогли бы опознать окружающих людей как «своих» и сформировать общественные структуры, необходимые для выживания и развития. Здесь важно оговориться, что не стоит недооценивать достижения ученых в объяснении детского развития, потому что практически все уровневые теории развития несут в себе идею о том, что при переходе на следующий уровень развития, предыдущий не преодолевается, не обнуляется, а интегрируется в более сложную структуру следующего уровня. То есть, переходя на следующий за конформистским рационально-аналитический уровень, мы не теряем способность к обобщениям, мы просто становимся способны выявлять и рефлексировать эти обобщения с учетом конкретной ситуации. Важно и то, что на каждом из уровней можно надолго задержаться, и это уже не зависит от возраста. Теории «детского развития» носят в определенной степени условный и обобщенный характер, показывая нам как бы «идеальную» модель прохождения стадий.

В общем и целом можно сказать, что когнитивные искажения — это темная сторона нашего мышления, побочный эффект нашего когнитивного развития.

Большая часть когнитивных искажений работает на основании двух факторов: 1. Конформность — эволюционно развившийся в нас механизм соответствия групповым установкам в целях сохранения порядка; 2. Лень, присущая нашему мозгу — особенно когда мы устали (а мы, в целом, действительно устали) — наш мозг (или наш разум/сознание) не очень любит строить новые конструкции и анализировать сложные ситуации без крайней необходимости (и если его не заставлять), поэтому выбирает простые пути, способные привести его к выводу, который его устроит: успокоит эмоционально, даст «логичное» объяснение — в целях экономии энергии.

Логика и убеждения: вечное противостояние

Самое известное когнитивное искажение, о котором сегодня говорят из каждого утюга, — confirmation bias — предвзятость подтверждения, которое заключается в том, что человек склонен искать, запоминать и соглашаться с той информацией, которая соответствует уже имеющейся у него точке зрения. Здесь же работает и эффект иллюзии правды — услышанная большее количество раз информация воспринимается как более правдивая (теперь умножим этот эффект на факт того, что на телевидение допускается лишь одна точка зрения — и получим типичную стратегию пропаганды).

Возьмем, например, недавнюю ситуацию с Владимиром Познером. Познер на протяжении года не высказывал четкой позиции по поводу СВО, а в начале марта принял участие в конференции американского Ubiquity University, поговорив о причинах специальной военной операции с Джимом Гаррисоном. В числе прочего, он говорил следующее: 

«Если мы говорим об интеллектуальном сообществе, то оно в основном против Путина, но это сообщество очень маленькое в России»; «Сегодня в России очень сложно публично не соглашаться с тем, что происходит, это опасно. По моему мнению, общество стало репрессивным. Людей сажают в тюрьму за то, что они говорят то, что думают. Люди, которых я вижу (возможно, имеется в виду „люди, с которыми я вижусь“), в основном, против»; «Мне стыдно за представителей моей профессии (дословный перевод: за мою профессию), мне стыдно за то, что они делают, за ложь, которая представляется как правда, за пропаганду в худшем смысле этого слова. Я не должен этого говорить, но я скажу. Я атеист, но если есть ад, то журналисты туда попадут» (ссылка на пост со ссылкой на саму речь).

Интересны комментарии под постом с цитатами Познера. «Как он быстро окрестил Россию безмозглой, вместо того что б признать, что Запад потерял и репутацию и популярность» и прочие многочисленные вариации на тему «кем он себя возомнил, тоже мне, интеллектуал». Здесь интересно то, что Познер не произнес напрямую, что он себя относит к интеллектуальному меньшинству, но комментаторы усмотрели во фразе про интеллектуалов некоторый подтекст. 

Интереснее всего то, что по одну сторону были негативные комментарии по отношению к Познеру с такими конструкциями как «пропагандист, старый кгбшник», а с другой — тоже негативные, но «антисоветчик, шпион, либерал». Более того, многие интерпретировали фразу о журналистах в аду как желание Познера отправить в ад именно российских журналистов с федеральных каналов, хотя он не уточнял, каких журналистов конкретно он имеет в виду. Царьград даже так и написал: «Познер впервые заговорил про СВО, пообещав патриотам России „ад“» (то есть, приравнял журналистов к патриотам России, что в корне неверно). То есть, создается впечатление, что каждый автор комментария интерпретирует слова Познера в соответствии с образом Познера, который присутствует в картине мира комментатора, и «подтверждает» эту картину.

Близкое к ним когнитивное искажение — иллюзорная корреляция. Она позволяет не только вычленить ту информацию, которая уже известна и множество раз повторена, но и связать между собой независимые друг от друга события.

Например, протесты во Франции против повышения пенсионного возраста некоторые российские СМИ поспешили связать с вопросом поставок оружия Украине странами Евросоюза. Так как протест — это всегда благодатная почва для спекуляций и домыслов, новость о том, что якобы французы выступают против поставок оружия и за выход Франции из НАТО выглядит красиво на фоне видео с масштабной демонстрации.

Но есть нюанс: на плакатах многих митингующих написано «Нет пенсии в 64 года!». При этом, плакаты за выход из НАТО тоже есть, есть даже плакаты за переизбрание Трампа, хотя он тут вообще рядом не стоял. Дело в том, что когда проходят митинги по какому-либо вопросу, туда стихийно могут присоединиться совершенно любые лозунги (тем более во Франции, где чуть ли не каждый месяц кто-то против чего-то выходит). Здесь важно то, что изначально протестующие требовали отставки правительства именно из-за повышения пенсионного возраста, а СМИ, «зацепившись» за интересную им повестку, представляют её как основную, хотя она второстепенна. Это именно тот пример искажений и пропаганды, которые встречаются чаще всего: не прямая ложь, а полуправда, интерпретированная в нужном ключе.

Похожий на это эффект, но с налетом мистики — апофения— когнитивное искажение, которым грешат религиозные люди (простите за каламбур), а точнее, конечно, люди с магическим мышлением (это не одно и то же), склонность видеть «тайные знаки» в случайных совпадениях, что порой также используется для манипуляции. Яркий пример из последнего: в свежем выпуске программы «Бесогон» Никита Михалков показывает храм, в котором на полу выбита буква Z.

«…Этим камням около 200 лет. И вот однажды один из священников этого храма взял меня за руку и отвел в правый предел. Там, в каменном полу, которому больше двухсот лет, я увидел вот это. Я подумал, кто вырезал этот знак на этом камне, которому больше 200 лет? Я не знаю. Зачем он это вырезал? Я тоже не знаю. Когда он это сделал? Этого тоже не знаю. Одно могу сказать точно, что это произошло минимум на 150 лет раньше, чем наступило 24 февраля 2022 года. Я подумал, если этот знак вырезан здесь, в храме величайшем, храме знаменитейшем, это не может быть случайностью, значит, это нужно Господу, а если Господь с нами, то кто может быть против».

Как видим, это умозаключение не укладывается в рациональную логику, но представляет собой использование мистических убеждений для установления «связей», укрепления этих корреляций для людей, которым это актуально (а зритель Бесогона — как правило, человек более или менее религиозный). 

Использование таких мистификаций в политических целях — это апелляция к мифическому мышлению (через которое мы все проходили, когда представляли бога в виде бородатого старца на облаке) с целью «подтвердить» «божий промысел» символами. 

Была это буква N, означающая северную часть храма, или это одна из букв на нимбе Христа (WON), или просто кто-то пошутил — мы можем и не узнать, но ни для человека, склонного к апофении, ни для намеренного построения апофенического конструкта это будет неважно, любая версия может быть успешно подогнана под желаемую. Например, вот так:

Вот еще несколько научно доказанных когнитивных искажений, отголоски которых присутствуют в нашей повседневной жизни и формируют некоторые фрагменты нашей картины мира.

Садисты поневоле

Подчинение авторитету 

«Там [во власти] не дураки сидят», «ты же не думаешь, что он сошел с ума», и прочие апелляции к силе авторитета. Предустановленная убежденность в том, что авторитет не может ошибаться (иначе он не был бы авторитетом) присуща многим людям, особенно в консервативных обществах, или же находящихся на конформистской стадии развития. Последний яркий пример такого поведения мы наблюдали в интервью Оскара Кучеры у Юрия Дудя.

Склонность к подчинению авторитету в целом является очень распространенным фактором, определяющим действия людей. И, как и у любого явления, у него есть две стороны. Проверить эту черту человеческого мышления и объяснить механизм ее работы в 70-х годах прошлого века решил Стэнли Милгрэм, психолог из Йельского университета. Его мучил вопрос о том, почему надзиратели фашистских концлагерей в гитлеровской Германии подчинялись преступным приказам и продолжали издеваться над заключенными. И он провел интересный эксперимент.

Эксперимент Милгрэма (краткое описание)

В эксперименте были задействованы трое: экспериментатор, испытуемый и актер в роли второго испытуемого. Испытуемому эксперимент презентовался в качестве исследования влияния боли на память. В начале эксперимента роли учителя и ученика распределялись между испытуемым и подсадным актёром «по жребию» с помощью сложенных листов бумаги со словами «учитель» и «ученик», но всё было подстроено так, чтобы испытуемому всегда доставалась роль учителя. После этого «ученика» привязывали к креслу с электродами. 

Задача была поставлена следующим образом: «ученик» должен был заучивать слова и списка, а «учитель» проверять правильность заученной последовательности, и наказывать «ученика» за каждую ошибку ударом тока, который становится выше с каждым разом. «Учитель» получал один демонстрационный удар током, после чего был уверен в том, что всё «по-настоящему». Экспериментатор, человек в белом халате, представленный испытуемому как университетский профессор, находился рядом с испытуемым, и мягко направлял его, объясняя и мотивируя к продолжению эксперимента. 

На самом же деле, эксперимент был нацелен на проверку того, сколько один человек способен причинять страдания другому под влиянием и наблюдением авторитета, «начальника», «знающего человека». И, конечно, удары током актер, игравший ученика, не получал, а лишь правдоподобно играл боль и страдания от как бы «получаемого» им разряда, а испытуемый-«учитель» был уверен, что всё по-настоящему и он действительно причиняет боль «ученику». Если испытуемый колебался, то экспериментатор требовал продолжения одной из заготовленных фраз:

• «Пожалуйста, продолжайте» (Please continue/Please go on);
• «Эксперимент требует, чтобы вы продолжили» (Experiment requires that you continue);
• «Абсолютно необходимо, чтобы вы продолжили» (It is absolutely essential that you continue);
• «У вас нет другого выбора, вы должны продолжать» (You have no other choice, you must go on).

На случай, если испытуемый спрашивал, не получит ли «ученик» повреждений, экспериментатор отвечал: «Несмотря на то, что удары током могут быть болезненными, они не приведут к долговременным повреждениям тканей». По ходу эксперимента экспериментатор при необходимости использовал и иные фразы, например, заверял, что он сам несёт ответственность, если с «учеником» что-либо случится. При этом, однако, экспериментатор никак не угрожал сомневающимся «учителям».

Результаты эксперимента оказались шокирующими: лишь 12% испытуемых прекратили бить «ученика» током на самом первом этапе эксперимента (после одной ошибки), а вот до конца дошли 65% — то есть, продолжали причинять страдания другому и дошли до самого сильного удара током, прекратив только тогда, когда «человек в белом халате» приказал закончить эксперимент.

Коллеги Милгрэма усомнились в результатах, высказав несколько возможных факторов предвзятости, но он разбил их в пух и прах, адаптировав эксперимент так, чтобы доказать его чистоту. Одним из таких сомнений было то, что испытуемые выполняли приказы ученого, ослепленные авторитетом Йельского университета, но в следующем эксперименте Милгрэм представлялся сотрудником никому неизвестного частного учреждения, и результаты остались теми же.

Милгрэм пришел к выводу, что главной мотивацией испытуемых продолжать эксперимент была их неспособность противостоять «начальнику» (в данном случае, человеку в белом халате), который настаивал (хоть и мягко) на выполнении задания, несмотря на боль, которую испытывал «ученик». При этом испытуемые и сами страдали, наблюдая за мучениями своих «жертв», и даже просили остановить эксперимент, но продолжали нажимать на кнопки. Но есть и хорошие новости: если появлялся еще один «начальник» — другой человек в белом халате, который, в противовес первому, отдавал противоположные приказы, испытуемые-«учителя», не понимая, кому теперь подчиняться, начинали поступать исходя из собственных соображений и моральных принципов — прекращали мучить «ученика».

Представление о том, что «начальство знает лучше» и следующее за этим подчинение — когнитивное искажение, обусловленное как внутренним конформизмом, так и некоторыми семиотическими факторами — в политическом контексте вместо «белого халата» и статуса ученого престижного университета может выступать условный «костюм с галстуком», официальная должность и сам факт присутствия человека в публичном поле, его декларируемая экспертность, или даже — военная форма. Именно поэтому, в ситуации политических разногласий, меньше всего люди прислушиваются к мнению близкого — статус которого известен и считается равным. При этом мнение человека из телевизора (особенно «в форме») принимается на веру, ведь если он выступает на федеральном канале — значит, «ему известно что-то, что не известно нам».

В сочетании с предвзятостью подтверждения и эффектом иллюзии правды прием работает на ура. Кроме политической пропаганды, он часто применяется и в коммерческой рекламе. Если позволителен личный пример, то вспоминаю, как я однажды сказала знакомой, что кока-кола вредна, на что был ответ: не может быть, иначе бы ее так много не рекламировали по телевизору. Авторитет телевизора как среды, в которую якобы попадает только тщательно отобранная информация, которая часто повторяется — вот очень показательный пример того, как работают эти когнитивные искажения в совокупности.

Здесь бы я еще добавила один технический момент: авторитет телевизора существует с советских времен, а вот его противопоставление интернету родило представление о том, что «в интернете может говорить кто угодно, а на телек абы кого не зовут», что и укрепило авторитет.

Приобретение вместо потери

Этот же эффект использует коммерческая реклама, когда зачеркивает ценник на 20 000 и ставит 10 000, и вы думаете, «как я классно сэкономил, купив ботинки практически даром», или, когда купив что-то, получаете в подарок еще что-то (не задумываясь, что «подарок» или «бесплатная доставка» уже изначально включены в стоимость товара). Позитивная эмоция от того, что вы сэкономили («приобрели») перекрывает негативную эмоцию от того, что потратили («потеряли»). В самом простом варианте это всевозможные вариации на тему «зато». «Потеряли своих людей, ЗАТО помогли обездоленным», «ухудшили свою экономику в промышленной сфере, ЗАТО сохранили сельскохозяйственный сектор», «не ездим за границу, ЗАТО сохранили суверенитет». При этом, как можно заметить, вторая часть высказывания, как правило, носит в себе либо абстрактное понятие, либо нечто априорное, само собой разумеющееся.

Фундаментальная ошибка атрибуции

Это склонность объяснять свои неудачи/дурные поступки внешними обстоятельствами, а дурные поступки другого обосновывать его личными чертами.

Мы: «мы были вынуждены», «у нас не было другого выбора» и проч.

Они: «они нацисты/глупые/жестокие/хитрые», «они хотят уничтожить нас, потому что считают себя главными» и проч.

То есть не просто стандартная оппозиция «мы хорошие — они плохие», а «мы так делаем, потому что так сложились обстоятельства/нас заставили/так надо/нас вынудили», а «они так делают, потому что они плохие». К этому когнитивному искажению склонны большинство людей, именно поэтому его использование в целях манипуляций и пропаганды выглядит так органично и встраивается в широко употребимые клише.

Особенно эффективно это когнитивное искажение работает при внешнем локусе контроля — и без того склонный к взгляду на события через призму внешних обстоятельств человек легко верит такому объяснению.

Выдержки из обращения В. В. Путина к Федеральному собранию 21 февраля 2023:

«Хочу это повторить: это они развязали войну, а мы использовали силу и используем, чтобы её остановить <…> Мы защищаем жизнь людей, свой родной дом. А цель Запада — безграничная власть».

«Запад использует Украину и как таран против России, и как полигон. <…> Но одно обстоятельство должно быть понятно всем: чем более дальнобойные западные системы будут поступать на Украину, тем дальше мы будем вынуждены отодвигать угрозу от наших границ». 

«Элиты Запада не скрывают своей цели: нанести, — как они говорят, это прямая речь, — „стратегическое поражение России“. Что это значит? Для нас что это такое? Это значит покончить с нами раз и навсегда, то есть они намерены перевести локальный конфликт в фазу глобального противостояния. Мы именно так и всё это понимаем и соответствующим образом будем на это реагировать, потому что в этом случае речь идёт уже о существовании нашей страны».

То есть «они начали первые» для нас уже является априорно «внешним обстоятельством», и мы «вынуждены» с этим работать.

При всей кажущейся масштабности, это когнитивное искажение преследует нас ежедневно, особенно когда внешние обстоятельства действительно отчасти «виноваты»: да, я мог рассчитать время заранее и предположить, что будет пробка, но в том, что я опоздал, «виновата» всё же пробка; да, я не должен был кричать на ребенка, даже если он ведет себя плохо, но это всё повышенный уровень стресса из-за работы… И так далее. Так как мы не живем в вакууме и постоянно находимся в контексте внешних обстоятельств, не ссылаться на эти обстоятельства практически невозможно. При этом, если каждый человек будет всегда исходить из внутреннего локуса, ссылаться на внешнее просто не будет необходимости. Однако в общественном контексте сложность этого процесса умножается в тысячи раз — гораздо проще сказать «я виноват», чем тысяче человек одновременно признаться «мы виноваты». То есть избежать фундаментальной ошибки атрибуции можно, пожалуй, лишь на индивидуальном уровне, и то только при высокой способности к саморефлексии.

Ретроспективное искажение

Знание задним числом («Я так и знал!») — склонность интерпретировать события, которые уже произошли, как очевидные и предсказуемые, несмотря на отсутствие достаточной изначальной информации для их предсказания. «Я еще в 2021-м году знал, что будет война» (Кучера).

Как бы нам ни хотелось знать, что ждет нас в будущем, увы, предсказать это под силу далеко не всегда. Опять же, способность к бытовому предсказательству в нас заложена — иначе мы бы вообще не учились на своих ошибках. Мы знаем, что если выйдем на холод с мокрой головой — то простудимся, потому что такой опыт уже был у нас или у других людей. При этом, когда ничего не предвещало, а мы вдруг заболели, наше мышление или память могут нам «случайно» подкинуть какую-то причину, о которой мы как будто бы «знали»: я так и знал, что заболею, ведь на прошлой неделе кто-то кашлял рядом со мной в метро (хотя в других обстоятельствах мы бы не придали этому значения). 

То есть, когда происходит что-то неприятное, нам хочется обрести иллюзию контроля, но саму ситуацию мы контролировать физически не можем, поэтому наше мышление даёт нам почти равноценную замену физического контроля: «знание» о причинах. 

Это успокаивает наш мозг настолько, что сама ситуация уже не вызывает сильных эмоций, ведь я «знал», что так будет, а значит, должен вести себя так, будто я и был к этому готов.

Это, кстати, одно из тех искажений, которые могут быть полезны, особенно для тревожных людей. В этом смысле иллюзия знания задним числом может быть менее болезненна, чем уровень стресса от неожиданности.

Вместо заключения

Резюмирую. Главное, что нужно понимать про когнитивные искажения — это то, что, хотя они и считаются «ошибками мышления», на самом деле, это просто особенности мышления, и гораздо больше им подходит определение «автоматические мысли». Некоторые из них могут и не принести нам никакого вреда, а даже наоборот, помогать в принятии решений.

Важно просто иногда сверять свои автоматические мысли и реакции с рациональной логикой и рассматривать разную аргументацию, потому что первая мысль — не всегда самая верная, первая мысль — обычно автоматическая, а они нас часто обманывают.

Источник: discours.co

Комментарии: