Инструмент для думающих и зависимость для ленивых: знаменитый Кибердед рассказал «Амурской правде» о будущем искусственного интеллекта |
||
|
МЕНЮ Главная страница ТЕМЫ Новости ИИ Голосовой помощник Разработка ИИГородские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Искусственный интеллект Слежка за людьми Угроза ИИ Атаки на ИИ Внедрение ИИИИ теория Компьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Нейронные сети начинающим Психология ИИ Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Промпты. Генеративные запросы Распознавание лиц Распознавание образов Распознавание речи Творчество ИИ Техническое зрение Чат-боты Авторизация |
2026-11-12 16:23 Разбор интервью Андрея Масаловича («Кибердеда»): что не так в его объяснении трансформеров В интервью Андрея Масаловича, известного как «Кибердед» (подполковник КГБ в отставке), прозвучало объяснение принципа работы ChatGPT и трансформеров. Разберём, что в этом тексте верно, что искажено и как эти искажения принижают роль искусственного интеллекта как революционного инструмента. Что описано верно Авторство алгоритма указано правильно: трансформер действительно придумали в Google (команда Google Brain/Research) и описали в статье 2017 года «Attention Is All You Need». Верно и то, что в основе работы лежит анализ огромных массивов текста и предсказание следующего слова (токена) на основе вероятностей. Утверждение, что модель смотрит на контекст, а не только на предыдущее слово, — тоже верное: в этом и заключается ключевая идея «самовнимания» (self-attention). Главные ошибки и неточности 1. Трансформер не «объясняет» информацию. Текст говорит, что задача трансформера — «объяснить то, что уже есть». Это не так. Задача трансформера как архитектуры — эффективно обрабатывать последовательности данных и находить в них закономерности. Он не «понимает» смысл и не «объясняет» его, а вычисляет вероятности. 2. Механизм работы описан слишком примитивно. В тексте говорится, что трансформер «считает, какие слова и в каких сочетаниях обычно встречаются друг с другом, запоминает вероятности появления одного слова после другого». Это описание ближе к старым статистическим моделям (n-граммам), а не к трансформеру. На самом деле трансформер использует механизм самовнимания (self-attention): он позволяет модели «смотреть» на все слова в предложении одновременно и взвешивать их важность друг для друга, а не просто считать пары слов. 3. Неточность про «Барака» и «Обаму». Пример с «Бараком» и «Обамой» в целом иллюстрирует предсказание следующего слова, но не передаёт сути. Трансформер не просто ищет частые пары — он строит сложные векторные представления (эмбеддинги), где «Барак» и «Обама» будут близки по смыслу в многомерном пространстве, даже если они не стоят рядом. 4. Утверждение, что «трансформер сам по себе не решает осмысленных задач», — спорно. Текст говорит, что у трансформера «нет механизма мышления». Это верно в том смысле, что у него нет сознания. Однако современные большие языковые модели на базе трансформеров после специального обучения (fine-tuning, RLHF) вполне успешно справляются с задачами, требующими рассуждений — решение логических задач, написание и отладка кода, анализ документов. Они делают это не «по-человечески», а путём статистического предсказания, но результат может быть осмысленным. Как эти ошибки принижают значение ИИ 1. Сведение к «продвинутому поисковику». Текст утверждает, что трансформер создавался прежде всего для того, чтобы «объяснить то, что уже есть в огромном массиве информации», и что Google развивал его ради улучшения поиска. Это низводит ИИ до усовершенствованной функции поисковой строки. На деле трансформер — универсальная архитектура, которая легла в основу не только поиска, но и машинного перевода, генерации кода, распознавания речи, анализа белков (AlphaFold) и медицинской диагностики. Революционность в том, что одна архитектура оказалась применима почти к любой задаче обработки последовательностей, а не к одной узкой функции. 2. Подмена «понимания» статистикой пар слов. Описание «считает, какие слова и в каких сочетаниях обычно встречаются» и пример с «Бараком» и «Обамой» создают впечатление, что модель — это просто очень большой словарь частот. Из этого читатель делает вывод: «ну и что тут революционного, это же просто автодополнение». Тем самым обесценивается ключевой прорыв — механизм самовнимания, который позволяет модели выстраивать внутренние представления о связях между понятиями на расстоянии сотен слов и абзацев. Именно это дало качественный скачок, а не подсчёт пар. 3. Утверждение об отсутствии «механизма мышления» как приговор. Фраза «у него нет механизма мышления в человеческом понимании» формально верна, но в контексте звучит как обесценивание: мол, осмысленных задач он не решает. Это принижает реальные возможности современных моделей — они справляются с многошаговыми рассуждениями, решением логических и математических задач, написанием и отладкой кода, анализом документов. Да, это не человеческое мышление, но и не «просто вероятности»: масштабирование архитектуры и обучение привели к эмерджентным способностям, которых у простых статистических моделей не было. 4. Искажение истории создания. Утверждение, что Google придумал трансформер «для своего поисковика», а ChatGPT просто «лежит внутри» как чужой алгоритм, создаёт картину, будто ИИ — это заимствованная деталь для улучшения поиска. В действительности статья 2017 года заложила новую парадигму, а её применение в больших языковых моделях (GPT, BERT и др.) привело к появлению нового класса инструментов, меняющих целые профессии и отрасли. Такая подача скрывает масштаб сдвига. 5. Общий эффект: «хитрость», а не прорыв. Текст начинается со слов «тут какая хитрость» и на протяжении всего повествования объясняет ИИ через что-то маленькое и механическое. В итоге у читателя формируется установка: ChatGPT — это ловкий трюк с подсчётом слов, а не технология, которая меняет способы работы с информацией, обучение, разработку и научные исследования. Именно это принижение — главный риск таких упрощений: оно мешает увидеть, что произошёл качественный переход, а не косметическое улучшение поиска. Итог Ошибки в тексте Масаловича не просто технические — они работают как рамка восприятия. Сводя трансформер к подсчёту частот и функции поиска, автор лишает ИИ статуса революционного инструмента и превращает его в «умное автодополнение». Корректное же описание — через механизм внимания, универсальность архитектуры и эмерджентные способности больших моделей — показывает, почему это действительно технологический сдвиг, а не хитрость. https://ampravda.ru/2026/10/06/instrument-dlia-dumaiushhix-i-zavisimost-dlia-lenivyx-znamenityi-kiberded-rasskazal-amurskoi-pravde-o-budushhem-iskusstvennogo-intellekta Телеграм: t.me/ainewsline Источник: ampravda.ru Комментарии: |
|