Очень давно хотела написать про то, как порядок столкновения с информацией влияет на наши взгляды

МЕНЮ


Главная страница
Поиск
Регистрация на сайте
Помощь проекту
Архив новостей

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



RSS


RSS новости


2022-04-28 13:57

Философия ИИ

Очень давно хотела написать про то, как порядок столкновения с информацией влияет на наши взгляды. Я бы сказала, это самый мощный фактор в формировании картины мира — последовательность, в которой мы рассматриваем идеи.

Дети принимают за данность всё, что им говорят, если оно не противоречит их текущей картине мира. Взрослые устроены точно так же, просто это чуть сложнее заметить. Ребёнку легко сказать идею о чём-то, про что он ещё не думал, и она заполнит пустовавшее место. У взрослых многие места в картине мира уже заполнены, и занести какую-то идею на пустующее место получается реже, с возрастом новые мысли всё чаще будут противоречить уже имеющимся представлениям. Картины усложняются, но правила их пополнения остаются одинаковыми. Если вы подойдёте к человеку любого возраста и скажете, что учёные доказали X, то он не будет считать X всего в нескольких случаях:

1) X противоречит его картине мира

2) в его картине мира уделено место идее, что учёные могут быть неправы

3) в его картине мира уделено место идее, что вы можете быть неправы (как лично вы, так и представители класса, к которому он вас относит)

4) в его картине мира уделено место идее, что важно перепроверять всю поступающую информацию, прежде чем маркировать её как достоверную. Но людей в таком эпистемологическом дзене я видела за жизнь не очень много)

Люди имеют приоры (оценки вероятности), насколько те или иные источники заслуживают доверия. Насколько учёные заслуживают доверия. Насколько вы заслуживаете доверия. Насколько класс, который вы представляете, заслуживает доверия. Насколько те или иные сми заслуживают доверия. Насколько те или иные правительства заслуживают доверия.

Теперь неудобный момент. Если мы слышим новую идею, которая ложится на пустое место в картине мира и ничему не противоречит, то она отчасти формирует наши взгляды, даже если источник кажется нам ненадёжным!

Даже если при нас крутанули рандомайзер и на нём выпало число 45, мы оценим высоту эйфелевой башни ниже, чем если выпало 810. Oh wait, этот эксперимент мне рассказали в универе без учёта кризиса воспроизводимости, такую информацию не стоит считать надёжной... но я чуть не написала её в посте про надёжные источники!) Так что я приведу другой пример: представьте себе, что конкретный преподаватель часто несёт фигню и вы это знаете. Всё равно когда он говорит какие-то факты по предмету, которые не противоречат вашей картине мира, вы сдвигаетесь в сторону того, что эти факты верны. Сдвинуться насколько-то может быть рациональным, так как люди редко генерируют >50% ложных утверждений :) Но мы сдвигаемся слишком сильно по сравнению с тем, чего требовал бы байесианский апдейт.

Зная о таком свойстве людей, я считаю полезным маркировать какие-то источники как заведомо ненадёжные и не пытаться апдейтиться об них вовсе. Если я хочу разбираться в приматологии, а мой преподаватель не компетентен, вместо попыток гадать, где 10% бреда, а где верные высказывания, мне намного полезнее найти другой источник информации о предмете. В конце концов, максимум того, что я смогу вынести с его лекций без дополнительного ресёрча — это много утверждений, в каждом из которых я должна сомневаться, любое может оказаться неверным. Так картинку не построишь.

В общем, сформировать кому-то взгляд по новой для него теме очень легко, для этого даже не нужно быть авторитетным источником. Но желательно быть — тогда совсем легко.

Менять взгляды, напротив, очень сложно. Если вы говорите что-то, что противоречит имеющейся картине, сознание собеседника по умолчанию отвергает это и защищает то, что есть.

Убеждения резистентны независимо от источника: даже если чувак получил информацию из ненадёжного источника, он скорее всего забыл это так себе пометить. Потому что люди не с рождения думают про хорошие практики познания мира. И вам нужно обладать существенным авторитетом или очень крутыми софт-скиллами, чтобы человек преодолел сопротивление воспринимать исходящую от вас информацию, угрожающую его текущим взглядам.

Поэтому если по какому-то вопросу вы первым делом в своей жизни услышали херню, у этого будет несколько следствий:

1) У вас есть существенный риск так и думать дальше эту херню, даже если вокруг вас достаточно информации, что мир в этом месте устроен иначе.

2) В вашу картину мира будет плохо интегрироваться информация, которая противоречит этой херне. А это очень много верной информации о мире! По сути, ваши взгляды будут легко пополняться чем-то, что согласуется с неверными убеждениями, а часть верной информации будет отбрасываться. Таким образом, чем дольше вы будете жить с ложными убеждениями, тем больше будет разрастаться кластер ложных убеждений и тем больше верных вещей будут маркироваться как враждебные сознанию и неправильные.

3) Источники, которые говорят по этому вопросу не херню, с большой вероятностью будут маркированы вами как ненадёжные. А ведь именно эти источники в среднем владеют более правильной информацией о мире! Так, вы блокируете себе всё больше доступа к правде.

Ваши взгляды, в том числе политические, формировались и укреплялись так же, как взгляды ваших оппонентов. Но вы не можете быть правы одновременно. Кто-то из вас заблуждается.

Мы не можем быть уверены в своей правоте. Но мы можем знать что-то о своей эпистемологии: на чём построены наши убеждения.

Фундаментальное отличие между людьми не в том, какие источники они читают, и даже не в том, какие взгляды они разделяют прямо сейчас. Фундаментальное отличие между людьми в том, как они рассуждают, чтобы к своим взглядам прийти и с ними оставаться. Ты можешь случайно оказаться прав, но не очень много раз :) Куда приятнее быть правым на регулярной основе, потому что ты пользуешься хорошими способами познания мира.

И если в нашей картине происходящего мы никогда не можем быть уверены до конца, то свои способы строить эту картину мы можем знать и даже в большой степени контролировать.

Я предлагаю подумать как можно более абстрактно: насколько надёжны ваши источники? Подумайте об этом без сравнений с «их» источниками, они-то уже маркированы как плохие. Просто ответьте себе на вопрос, насколько хороши ваши источники. Почему вы считаете, что они должны хорошо отражать реальность? Как вы оценивали их раньше, как часто вас смущало что-то в прошлом?

Также я предлагаю подумать: возможно ли применить ваши аргументы для защиты противоположной позиции? Например: «миллион официальных сми не могут ошибаться» — это аргумент, который сейчас могли бы использовать люди по обе стороны баррикад, поэтому он не позволяет разобраться, кто из вас прав. Или, например, оба лагеря сейчас считают, что у вторых сплошные фейки, поэтому без анализа разоблачений обеих сторон и даже разоблачений разоблачений (а то и глубже в рекурсию) этот аргумент не может работать.

Я стараюсь всегда допускать, что мой оппонент прав, если он демонстрирует способность аккуратно мыслить. Потому что у меня могли быть не те источники и меня могло унести не в ту сторону после каких-то изначально ошибочных данных. В таких разговорах мы можем кооперативно исследовать, какие аргументы заслуживают доверия и почему. Часто у нас обоих немного сдвигается представление по тем или иным вопросам, иногда у кого-то может существенно смениться картина.

Менять мнение — не стыдно. Учиться менять мнение и иметь хорошую эпистемологию — ван лав.

Постарайтесь найти в окружении человека с противоположными взглядами, в чьё умение думать вы верите, и предложите ему поговорить в формате кооперативного исследования. Пусть это будут в кои-то веки не дебаты. Обсуждайте не взгляды, а то, как вы к ним пришли: почему вы оцениваете источники так, как оцениваете, а потом — как вы оцениваете свои причины так относиться к источникам, и не нужно ли их скорректировать. Ведь кто-то из вас, кажется, заблуждается именно в этих вопросах. Помогите друг другу. Вы можете перед разговором показать человеку этот текст, чтобы задать жанр: давай попробуем разобраться в основах того, почему мы считаем по-разному, хотя согласны в способах познавать мир.

P.S. Если вы считаете пост полезным, лайкните его: так он получит больше охвата.


Источник: vk.com

Комментарии: