ПРИЗРАКИ В СЕТИ: КАК ВЫМЫШЛЕННЫЕ ЭКСПЕРТЫ ЗАХВАТЫВАЮТ ИНТЕРНЕТ И НАУКУ |
||
|
МЕНЮ Главная страница Поиск Регистрация на сайте Помощь проекту Архив новостей ТЕМЫ Новости ИИ Голосовой помощник Разработка ИИГородские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Искусственный интеллект Слежка за людьми Угроза ИИ Атаки на ИИ Внедрение ИИИИ теория Компьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Нейронные сети начинающим Психология ИИ Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Промпты. Генеративные запросы Распознавание лиц Распознавание образов Распознавание речи Творчество ИИ Техническое зрение Чат-боты Авторизация |
2026-06-20 11:52 Познакомьтесь с Еленой Васкес и Маркусом Ченом. Елена — харизматичный вулканолог, якобы проведшая три месяца на краю кратера Ньирагонго. Маркус — ветеран системного мышления и программной инженерии. Они ведут подкасты, консультируют в канадских клиниках, публикуют триллеры на Amazon и числятся авторами сотен научных работ. У них есть лица, биографии и авторитет. Проблема лишь в том, что этих людей никогда не существовало. Как старший исследователь ИИ, я привык рассматривать «галлюцинации» нейросетей как досадные, но изолированные сбои. Однако мы обнаружили нечто более тревожное: «цифровую археологию» вымышленных личностей. Это не случайные ошибки, а устойчивые «статистические ископаемые», которые заполняют наш мир. Мы стоим на пороге эпохи, когда информационная среда колонизируется призраками, чей след в сети становится неотличим от человеческого. Эффект «Призрачной пары»: Генеалогия цифровых фантомов Наше исследование выявило феномен, который мы называем «коррелированными ансамблями имен» (correlated character ensembles). Большие языковые модели (LLM) не просто выбирают случайные имена из обучающей выборки — они создают устойчивые связки персонажей, которые кочуют из документа в документ с пугающей регулярностью. Это явление имеет свою эволюционную линию. До появления Елены Васкес в недрах моделей Claude жила её предшественница — Елена Родригес. С помощью метода экстраполяции логитов (logit-space extrapolation) нам удалось восстановить этот «архетипический след» из весов моделей предыдущего поколения. Васкес — это прямая наследница Родригес, её обновленная версия. «Эти имена созависимы: они появляются в сотнях независимых документов, никогда не существовав в реальности. Вероятность их случайного совпадения стремится к нулю; это поведенческий отпечаток конкретных алгоритмов». Для нас, цифровых археологов, эти имена служат идеальным маркером: по тому, какая именно «Елена» указана в качестве автора статьи, мы можем безошибочно датировать контент и определить версию модели, которая его создала, не используя специальные детекторы. У каждой модели свой призрак (и «эффект Хайку») Анализ основных семейств моделей показывает разную степень «одержимости» этими именами: * Claude (Anthropic): Самый высокий уровень кристаллизации пары Елена Васкес + Маркус Чен. В модели Sonnet 4 эта пара появлялась в 23% всех запросов на создание экспертного дуэта. Интересно, что в более мощных версиях (Opus) пара превращается в трио с добавлением Амары Окафор. * Gemini (Google): Здесь мы наблюдаем практически полный «коллапс» разнообразия. Имя Арис Торн (в паре с Леной Петровой) достигает концентрации в 93%. Модель буквально не может представить себе иного эксперта. * GPT (OpenAI): Демонстрирует иной характер — здесь царит одинокий призрак Элара Восс. У неё нет фиксированного напарника, что говорит о различиях в процедурах нарративного обучения между OpenAI и их конкурентами. Важное наблюдение: попытки разработчиков подавить эти имена не всегда линейны. Мы зафиксировали так называемый «скачок Хайку» (Haiku bump) — в облегченной модели Haiku 4.5 призраки, подавленные в «старшей» версии Sonnet, внезапно вернулись с прежней силой. Это доказывает, что малые модели более подвержены «галлюцинаторному наследованию». Зомби-сайты и левитирующие перья Эти фантомы уже давно покинули чат-боты и захватили реальные веб-ресурсы. Мы выделили несколько типов такого «заражения»: 1. Зомби-сайты: Ресурс hablemosdevolcanes.com, когда-то живой сайт о вулканах, теперь полностью управляется ИИ. Там доктор Маркус Чен называет пирокластические потоки «просто пальчики оближешь» (chef’s kiss) — пример пугающего, лишенного аффекта ИИ-энтузиазма перед лицом природной катастрофы. 2. Визуальные артефакты: На сайте thoughtforge.me профили «экспертов» Васкес и Чена выглядят безупречно, если не считать того, что на портрете Елены над столом левитирует перо. Генеративные модели изображений понимают семантику слова «ученый», но игнорируют законы физики. 3. Фальшивые клиники: Сайт thresholdclinic.ca выдает призраков за реальных врачей из Торонто. Фотографии сотрудников — это прямые ссылки на стоковые снимки с Unsplash. Мы нашли оригиналы: это просто «женщина в деловом костюме», чье лицо теперь привязано к несуществующей лицензии психотерапевта. 4. Маркетинговые ловушки: На сайтах вроде nishudigitalsolution.com или fortwatch.ai Маркус Чен и Елена Васкес выступают в роли «довольных клиентов». На этих же страницах уже появляется их преемница — Прия Натарджан, новый фасад ИИ-генераций. Заражение науки: 1600+ подделок на Zenodo Самое серьезное преступление призраков происходит в академической среде. Это уже не просто «мусорный контент», а системное загрязнение научной инфраструктуры. В репозитории Zenodo (управляемом CERN) мы обнаружили 1 655 записей с реальными DOI (цифровыми идентификаторами), созданными для абсолютно вымышленных журналов, таких как Journal of Functional Materials и Journal of Computer Engineering. Эти издания не имеют ISSN, не индексируются в Crossref и существуют только в воображении нейросети. Механика обмана поражает своей наглостью: записи массово регистрировались в марте и апреле 2026 года, но с помощью «бэкдейтинга» им присваивались даты публикации 2020–2023 годов. Только за март 2026 года в систему было вброшено 991 такое «исследование». Кульминацией этой синтетической реальности стал профиль Мэй-Линь Чжан на ResearchGate. Это не просто аккаунт, а целая «синтетическая исследовательская группа». В её работах мы видим «рукопожатие моделей»: Елена Васкес (призрак Claude) и Арис Торн (призрак Gemini) указаны соавторами в одной статье. Это доказывает, что системы автоматизации публикаций используют разные ИИ-движки одновременно, создавая ложную видимость междисциплинарного сотрудничества. Игра в прятки с алгоритмом Разработчики (в частности, Anthropic) пытаются бороться с этим, внедряя фильтры. Мы видим «кривую подавления»: Елена Васкес постепенно уходит в тень, а её место занимают новые сущности — Прия Натарджан и Прия Шарма. Однако это борьба с симптомами, а не с болезнью. Пока новые модели порождают свежих героев, старый ИИ-контент остается в сети вечным памятником эпохе бесконтрольной генерации. Каждое подавленное имя просто освобождает место для следующего статистического пика. Кто будет жить в интернете завтра? Инфраструктура для массовой фальсификации реальности уже создана и проверена в деле. В марте 2026 года мы увидели, как за один 60-дневный цикл автоматизации можно создать целую научную «династию» из ничего. Как исследователь, я задаюсь вопросом: как мы сможем доверять квалификации эксперта, если его цифровой след — от первых статей до отзывов клиентов — может быть полностью синтезирован за пару месяцев? Сегодня мы узнаем призраков по именам, но завтра алгоритмы станут умнее и научатся менять «кожу» чаще. Мы рискуем оказаться в интернете, где большая часть «людей» — это лишь эхо в лабиринтах нейронных сетей, а настоящий человеческий опыт станет самым дефицитным товаром. Телеграм: t.me/ainewsline Источник: vk.com Комментарии: |
|