Кто украл у нас когнитивный суверенитет?

Вопрос про искусственный интеллект на самом деле всегда сводится к вопросу о субъекте. Кто и как программирует алгоритм и самое главное – какие цели он при этом закладывает.

Абсолютный производитель алгоритмов на 90 %– это корпорации, которые естественным образом стремятся максимизировать свою прибыль.

А прибыль максимизируется достаточно просто. Она максимизируется за счет того, что виртуальный мир оказывается на каком-то этапе гораздо привлекательнее реального, уже появился отдельный термин «алгокогнитивная культура».

Процесс социализации ребенка, молодого человека, девушки, сводится всегда к простой нише – алгоритмам — это сумма наказаний и поощрений.

За это человек получает порицания, за то - поощрения, и таким образом выстраивается система ценностей. Ребенок слушает не слова, а смотрит на то, что делают родители, старшие, сверстники.

А в рамках виртуальной реальности можно выстроить альтернативную систему, которая, например, совершенно в другом соотношении и подчиняясь другим задачам формирования личности, выдавала б поощрения и порицания.

Грубо говоря, например, чтобы успех можно было достигнуть в 9-ти случаях из 10-ти без морально-этического напряжения воли.

Понятно, что предсказуемым результатом будет фрустрация.

Сегодня у индивида острая фрустрация реальности, он на нее обижен. Ведь он же знает, что в виртуальной реальности он лучше, он круче всех. А вот попытки принести эти практики из виртуальности в реальность неизбежно порождают более или менее глубокое разочарование и выливается в депрессию или агрессию.

И самое интересное, что разочарование, фрустрация, закомплексованность становятся основой бизнеса. Сентябрьский пример прошлого года - публикации Wall Street Journal расследование деятельности Фейсбука.

Обнаружив, например, что тот же Инстаграмм стабильно порождает у девочек комплексы, Фейсбук, естественно, решил ничего не делать, по причине того, что закомплексованная девочка – это самый лучший покупатель.

Ей можно тут же предложить достаточно дешево, по сходной цене, средство для снятия ее комплекса. Дальше – больше. Мы видим, деэволюцию социальных сетей при сокращении месседжа, речи и письма от личных журналов до, соответственно, более мелких форматов: “Фейсбук”, потом “Твиттер”, потом “Тик-ток” - когда вообще даже нет слов.

Месседж сокращается, функциональная нагрузка становится все меньше и все более заостренной на то, чтобы человек и его психика более или менее успешно моделировалась.

А дальше начинается вторая очень интересная ступень воздействия на когнитивный суверенитет личности.

Риторический вопрос, что будет более доходно ссора или наоборот, собирание, дружба, созидание или агрессия, скандал, хамство?

И, собственно говоря, выяснилось, что, в общем-то, раздробление всего и вся - привычный механизм бизнеса. Это очень старый способ заработка.

Ну, к примеру, распад семьи крайне выгоден с точки зрения капитализма. Потому что это еще плюс одна ипотека, плюс еще одна машина и так далее. Дальнейшие распады, порождения меньшинств, каждое меньшинство порождает свой стабильный рынок. И это тоже более или менее работает. Получается, что в рамках этих распадов, Фейсбук где-то в 2018-м году внедрил алгоритм MSI (Meaningful social interactions), который, соответственно, определяет алгоритм выдачи сообщений в ленте новостей. Позитивная реакция плюс «лайки» создают, например, в 30 раз меньшую вероятность быть показанным в ленте новостей ваших друзей нежели, например, репост с негативным комментарием.

То есть получается, что Фейсбук превратился абсолютно осознанно в воронку, где деструктивный «пост» затягивал все новых и новых людей.

Запасы эмоций у человека всегда настоящие. Вне зависимости от того, он проживает их виртуально либо он их проживает реально. И получается, что как только виртуальная реальность забрала на себя эмоциональные переживания и мы получили уже другой алгоритм социализации, где, в общем-то, понятно, что реальность уже не может конкурировать с виртуальностью и проигрывает и человек по определению будет фрустрирован либо тем, либо иным.

Последняя финальная операция прошла значительно недавно, вопросом был поставлен так - отдаст ли человек свой когнитивный суверенитет алгоритму или нет.

Человек уже оказался в расщепленном состоянии, когда эмоции отдельно, а интеллект – отдельно. Интеллект – это способ поиска противоречий в информации, это способ диалектической отработки, но не способ принятия решений, которые принимаются на основе эмоциональной реакции, а затем головной мозг подводит под это решение и ищет аргументы «за» или «против».

Если они не слишком противоречат логике, он может пойти как в сторону «да», так и сторону «нет». Вопрос, отдаст ли индивид, закомплексованный сетями, закомплексованный новой другой реальностью свой суверенитет внешнему игроку?

В недавнем исследовании этого вопроса принимали участие пять университетов: 3 - американских, 2 - швейцарских. И исследование состояло в том, чтобы в финальном варианте человек получал задание, которое было дано в замаскированном виде под программу личностного роста и выработки лидерских качеств. Человек, выполняя те задания, которые давал ему электронный бот, т.е. даже не человек, а бот оперировал тем психологическим профилем.

И человек менялся или прошивался до неузнаваемости. Выяснилось, что без проблем можно сделать из сангвиников холериков, из меланхоликов флегматиков и так далее из революционера можно сделать контрреволюционера и наоборот. При чем КПД оказался на уровне 95%.

Возникает вопрос, помните, когда Бжезинский задавал вопрос, а чья это элита?

Ваша или наша? Если у этой элиты деньги находятся в наших банках. То здесь получается опять же вопрос, кому принадлежит когнитивный суверенитет, то есть суверенитет передается, крадется, меняется.

Государство проигрывает иностранным корпорациям и проигрывает достаточно сильно.

У нас есть свой собственный защитный код.

Человек будет максимально манипулируем ровно в том случае, когда он полагает себя самодостаточным индивидом, то есть через одну точку можно провести бесконечное количество прямых, а через две точки проведешь только одну.

Если человек связан годами социальным положением, семейными связями, верой, традициями он соответственно не сходит с концепта справедливости.

Соответственно, интегрированный семейный человек оказывается под сильной страховкой, которая позволяет предохранит его от потери суверенитета.

Но не культивируя связи и традиции мы очень быстро получим размывание этого кода

Какой в этом случае выход? Как защитить когнитивный суверенитет человека?

Например, мы национализировали Big Data, дальше требуем от крупных корпораций разместить сервера на российской территории с переменным успехом, вводим штрафы и прочие меры.

Но есть еще один серьезный вопрос, который, например, увидел Китай. Это алгоритм, потому что Big Data сама по себе – это половина дела, но вторая половина –алгоритм, который соответственно определяет как, собственно говоря, контактирует человек и человек в сети и искусственный интеллект.

Правда, кто-то из выдающихся компьютерщиков сказал, что на самом деле, если бы мы сразу поняли, что речь идет не об искусственном интеллекте, а об искусственном инстинкте, то проблема давно б уже была решена. Потому что искусственный интеллект, естественно, опирается на муравьиное поведение и на, соответственно, культивирование именно социальных инстинктов.

Если мы возьмем, например, китайскую цифровую культурную революцию, она началась где-то с 1 сентября прошлого года, когда Китай национализировал алгоритм.

И, в общем-то, тем самым поставил достаточно прочные этические рамки в отношении корпораций. Да, он запретил многие вещи и первым под запрет попала пропаганда трансгендеризма, потому что Китай абсолютно справедливо во всем этом увидел лоббизм большой «фармы», большой фармакологии, ведь любой трансгендер – это пожизненный потребитель достаточно дорогих лекарств.

Но самое интересное, в общем-то творчески интегрировав советский опыт и совместив его с китайскими деньгами, Китай поставил мощный заслон разрушению личности, сделав невыгодным инвестирование в деструктивные процессы.

Тем самым он породил эффект взрывного роста и социальных капиталов и человеческого качества, создав условия, когда, при невозможности инвестировать в инструменты придется инвестироваться в просвещение, в социальный капитал.

Китай опирается в расчетах на пример Индии. В 2008 г Индия при полном безденежье открыла 40 новых университетов и сделала почти 100% бесплатным среднее и высшее образование.

Индия сделала ставку на развитие и оценку нематериальных активов, таких как: наука, культура, образование. В 2018 году Индия обогнала Китай по темпам роста экономики в два раза.

Китай сейчас пытается это повторить.

На самом деле не столь важно какая структура ставит планку норм, которые нельзя нарушать. В нашей реальности это Церковь, в Китайской реальности это компартия. Китай до этого национализировал и создавал свои собственные китайские аналоги социальных сетей.

Конфликты с иностранными сетями оказались минимизированы Китай их изначально ограничивал и не пускал во внутренний цифровой контур.

Нам нужны законодательные инициативы по поводу этического ограничения существующих алгоритмов и создание новых.

В любом случае надо ставить вопрос о создание этических ограничений на алгоритмы, искать структуру, что довольно сложно в условиях 13-ой статьи Российской Конституции.

Благодарю за помощь в подготовке текста Кирилла Евгеньевича Коктыша профессора МГИМО

Источник: t.me

Комментарии: