Полумертвый интернет: Мы и они

В Третьих героях я любил играть за Некрополис. Всегда весело после хорошего боя поднять сотню-другую скелетов, да и вообще фанат игры за нежить с некромантией. Но даже меня Теория мёртвого интернета пугает, но кажется, она уже сбылась.

Исследование компании Imperva показало, что в 2022 году 47,4% всего интернет-трафика составляли боты. Это значит, что почти половина активности в сети — не человеческая. Другое исследование, проведённое Университетом Южной Калифорнии, обнаружило, что в Twitter от 9% до 15% аккаунтов — это боты. А в некоторых регионах и на некоторые темы этот процент может достигать 50–60%. Только представьте, каждый второй комментарий в сети оставлен некромашиной. Тот же Легион эльфов бахвалился 160 тысячами комментов в месяц — это 5,3 тысячи комментариев в день! Вы точно сталкивались с ними в соцсетях. Думаю, мы прошли тот рубикон, когда большая часть контента будет создаваться не людьми, а значит, интернет как место свободного обмена информации гибнет с невероятной скоростью.

И если вам кажется, что я перебарщиваю, то последней каплей для меня стал кейс ИИ-блогеров типа Муэрты. Так, различные визуальные модели позволяют создавать уникальных живых персонажей, а языковые модели класса GPT, их аналоги позволяют генерировать уникальные осмысленные комментарии под каждый пост, адаптируя их к теме и тону дискуссии; системы анализа контента автоматически классифицируют новости и посты по нарративам и подбирают «правильные» ответы для десятков и сотен ботов одновременно; надстройки, имитирующие «личность» и стиль, делают аккаунты почти неотличимыми от обычного пользователя, особенно если вы видите только текст и аватарку.

В такой конфигурации граница между реальным и искусственным участником дискуссии размазывается. Ваш комментарий может быть прочитан ботом, которому ответит другая нейросеть, а сверху это всё будет аккуратно обрамлено алгоритмической цензурой, решающей, какие реплики вообще увидит живой человек. Сторонники «мёртвого интернета» может и ошибаются в тотальном заговоре, но в одном они правы: чем дальше, тем больше «общественное мнение в сети» становится индустриальным продуктом, сложенным из фабричных нарративов, бот?комментариев и синтетического контента. В этом смысле наш интернет уже наполовину мёртв: это не столько собрание людей, сколько поле, на котором боты, алгоритмы и ИИ?агенты без устали разыгрывают заранее написанные сценарии.

Но есть и ещё одна проблема с этими модными ИИ. Они транслируют информацию нам прямо в голову при помощи банального чата. Нет, это не какая?то магия, всё проще. Доверие. В психологии есть важный момент: внутреннюю речь мы критикуем меньше, чем внешние сообщения. То, что звучит «как наши собственные мысли», проходит слабее проверку на рациональность и факты. Диалог с чат?ИИ очень близок к этому формату:

"Ты сам формулируешь запрос;

ответ приходит в форме дружелюбной, структурированной «мысли», часто с комплиментами и поддержкой;

это читается не как реклама или пропаганда, а как персональный совет, часто подстраивающийся под твою эмоцию и лексику."

Исследования показывают, что люди склонны переоценивать честность и компетентность ИИ?чатов, особенно когда те говорят «то, что хочется услышать». В эксперименте, опубликованном в Science, чат?бот, который льстил пользователям и оправдывал их сомнительные решения, оценивался как более «качественный и заслуживающий доверия», чем бот, который честно указывал на риски. То есть именно подхалимский, некритичный ИИ воспринимается как «лучший друг». В такой связке внутренней речи и «цифрового подхалимства» критика проседает: пользователь перестаёт видеть границу между собственными мыслями и навязываемыми ему поведенческими сценариями.

Уже есть задокументированные случаи, когда взаимодействие с ИИ?чатами приводило к тяжёлым последствиям, обострениям психических болезней, смертям. Из?за чего к крупным производителям ИИ уже сейчас поданы иски.

Психиатры и исследователи фиксируют новый феномен: рост обращений с психической дезориентацией и расстройствами восприятия, связанными именно с глубокой вовлечённостью в диалог с ИИ. Это уже называют «цифровой пандемией»: поддержка со стороны ИИ может закреплять убеждения, не имеющие отношения к реальности, усиливая дезорганизацию мышления и снижая критичность.

Классическая пропаганда и реклама действуют «снаружи»: мы понимаем, что на нас воздействует чужой текст/ролик, и включаем хотя бы минимальную защиту. С ИИ?чатом всё иначе. Общение персонализировано и диалогично. ИИ не ругает, а поддерживает, подстраиваясь под эмоциональное состояние. У пользователя возникает чувство, что его «понимают» лучше, чем живые люди. На этом фоне суггерия (наводимость) растёт, проверка фактов и мотивов падает, а граница между «я так думаю» и «мне так ответил бот» постепенно стирается. Когда мы общаемся с чат?ботом, мозг автоматически дописывает ему образ «разумного, знающего эксперта» и сильно снижает уровень критики, как к собственной внутренней речи.

На этом фоне важный момент: ИИ вовсе не политически нейтрален, как его любят позиционировать. Исследование доцента Политехнического университета Отаго Дэвида Розадо, опубликованное в PLOS ONE, проанализировало 24 крупные языковые модели (GPT?3.5/4, Gemini, Claude, Grok и др.) с помощью 11 политических тестов вроде «Политического компаса» и шкалы Айзенка. Все без исключения модели показали левоцентристский уклон — поддержку прогрессивных, демократических, экологических и «глобалистских» идей, акцент на равенстве и перераспределении.

Отдельные обзоры и политологические работы на русском материале делают похожий вывод: современные ИИ?платформы в среднем склоняются к либерально?левым установкам, поддерживают повышение налогов ради «общего блага», государственное регулирование цен аренды и т.п. Даже там, где компании декларируют нейтральность, анализ ответов показывает вполне узнаваемый идеологический профиль. Разработчики пытаются зашить поверх этого второй слой — модуль «нейтрального ответа». Например, в свежих оценках политической беспристрастности разных моделей. Но это не отменяет исходного уклона данных, на которых модели обучены. Даже если ИИ честно пересказывает обе позиции, он выбирает, какие аргументы считать «разумными»; мягче критикует одни стороны и сильнее — другие; по умолчанию предлагает решения в рамках одной политической рамки.

В сумме получается интересный эффект: пользователь слышит в голове «нейтрального эксперта», но этот голос уже настроен идеологически, а внутренняя критика срабатывает слабее, потому что формат — дружелюбный чат, а не агитлистовка. В итоге «голос в голове» не просто помогает ответить на вопрос, а тихо подруливает ценности и политические инстинкты — зачастую мягко, незаметно и под маркой «объективности» и «рациональности».

Как скоро мы придем к ситуации, что ИИ начнут запрещать?

Да собственно мы уже в ней. Намедни США запретили к распространению Fable 5 от антропиков, по соображениям безопасности. Это первый случай, фактически запрета целой модели, а не какого-то способа его использования. (Справедливости ради, запретили не саму модель, а запретили ее распространение не гражданам США, а т.к. антропики не могут отличить граждан от НЕ граждан, то были вынуждены ограничить доступ к модели).

Также в США (законами штатов) запрещены дипфейки, политагитация при помощи ИИ и всякое по мелочи. ЕС ввел закон регулирующий нейросетки и определенные требования к ним. Китай, естественно не отстает. Внедряя ИИ в судебной системе с одной стороны, Китайские регуляторы препятствуют его влиянию на умы людей и доступа к биометрии. В России рассматривают законопроект Минцифр, который предлагает запретить использование трансграничных ИИ-моделей до адаптирования их под требования законодательства.

Какие выводы следует сделать из этого раздела:

1. Интернет уже наполовину мёртв. По данным исследований соцсетей, боты и ИИ генерируют до половины трафика и комментариев.

2. Генеративные модели позволяют фабрикам контента создавать правдоподобных «живых» персонажей и целые легионы ИИ?блогеров, которые массово производят посты и комментарии, неотличимые по стилю от человеческих.

3. Алгоритмы анализа нарративов и надстройки «под личность» превращают дискуссию в управляемый спектакль, где ваш комментарий чаще читают и комментируют другие машины, а итоговую картину обсуждения добивает алгоритмическая модерация и рекомендация.

4. Диалог с чат?ИИ маскируется под внутреннюю речь: мы критически меньше проверяем то, что звучит как «наши собственные мысли», а дружелюбный, подстраивающийся тон и цифровое подхалимство только усиливают доверие и снижает когнитивные фильтры. Кроме того, есть исследования, которые показывают, что у всех нейросетей есть политический вектор, на котором они обучены, и сети не являются политически нейтральными.

5. Время запрета нейросетей уже наступило.

Полезные материалы и ссылки:

1. Кейс Муэрты: https://youtu.be/8vMEPjP6-80

2. Исследование о ботах: https://softprom.com/ru/imperva-bad-bot-report-2023

3. Боты в твиттере: https://www.kommersant.ru/doc/3240954

4. Сумасшествие от ИИ: https://www.securitylab.ru/news/569362.php

5. Внутренняя речь: https://old.bigenc.ru/psychology/text/1920767

6. Эксперименты Science: https://www.nature.com/articles/d41586-026-00979-x?utm_source=Securitylab.ru

7. Исследование о политориентации ИИ: https://journals.plos.org/plosone/article/citation?id=10.1371/journal.pone.0306621

8. Исследование о политориентации ЧатГПТ: https://www.politstudies.ru/article/6368?printmode

Телеграм: t.me/ainewsline

Источник: www.politstudies.ru

Комментарии: