Qwythos пробил 2 миллиона загрузок за месяц на Hugging Face

Empero AI обновили GGUF-кванты для Qwythos-9B-Claude-Mythos-5-1M и рекомендуют перекачать файлы тем, кто всё ещё использует старые GGUF.

Причина: вышли fixed v3 replacements с исправленным chat template и более спокойным branding.

Модель остаётся интересной для локального запуска: это 9B reasoning-модель с GGUF-весами под llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и другие рантаймы. В карточке также указаны 1M context, function calling, multimodal / vision support и Apache 2.0. ([huggingface.co](https://huggingface.co/empero-ai/Qwythos-9B-Claude-Mythos-5-1M-GGUF))

Доступны обычные text weights и MTP-версии для draft speculation. Самый простой старт — Q4_K_M, его авторы называют рекомендуемым default-вариантом. ([huggingface.co](https://huggingface.co/empero-ai/Qwythos-9B-Claude-Mythos-5-1M-GGUF))

Если Qwythos v1 уже стоит локально, лучше скачать свежие GGUF заново.

HF: https://huggingface.co/empero-ai/Qwythos-9B-Claude-Mythos-5-1M-GGUF

Телеграм: t.me/ainewsline

Источник: huggingface.co

Комментарии: