Для тех, кто работает на китайских моделях, хорошие новости — китайцы развязали лютую ценовую войну одновременно с ростом качества LLM

Для тех, кто работает на китайских моделях, хорошие новости — китайцы развязали лютую ценовую войну одновременно с ростом качества LLM. Фактически Qwen и GLM поставили ценник ещё ниже ультранизких цен DeepSeek V4 Flash. Причём это не демпинг в убыток. Если американцы не умеют делать LLM с низкой себестоимостью инференса, то сегодня The Information ещё раз подтвердил, что у DeepSeek фантастическая маржа 70%, несмотря на его низкие цены. Поэтому запас маржинальности для ценовой войны у китайцев есть. Однако они в реале быстро убегают от американцев по оптимизации именно на цену и через технологии.

Qwen3.8-Flash-Next выбивает бенчмарки выше DeepSeek V4 Flash, что подтверждается и LM Arena. Более низкая цена связана с тем, что Qwen3.8-Flash-Next имеет в 2 раза меньше активных параметров — 6B, что снижает нагрузку на ядра GPU также. Плюс китайцы уже перешли на новое поколение гибридов State и GPT нейросетей, пока американцы ещё застряли в чистом GPT. Однако по сравнению с Kimi K3 в Qwen 3.8 Flash Next применено разреженное внимание (Sparse Attention) в слоях трансформеров, что сразу сделало отличную экономику. Kimi K3 дорогой из-за Full Attention в этих слоях. Также технология Qwen как n-gram позволяет им сразу распознавать шаблонные фразы и помечать в резидуальном потоке, снижая нагрузку на слои выше для распознавания синтаксиса.

Отмечу, что гибрид со State обычно другой уровень качества относительно LLM от OpenAI или Anthropic в том, что State позволяет модели легко менять мнение, если она ошибается. Также если контекст требует моделирования эволюции State, как при разработке на React, то это нативно поддерживается моделью. Поэтому не удивительны такие результаты A/B тестов для фронтов.

OpenAI или Anthropic сейчас не имеют ни патентов, ни научных статей на таких гибридах, чем закончится их застревание в предыдущем поколении LLM на чистом GPT — это вопрос. В Brute force суперкластеров играть можно, но гибриды начинают уже давить и ценой, и качеством.

Телеграм: t.me/ainewsline

Источник: t.me

Комментарии: