Alibaba выпустила Qwen-Scope - открытый набор sparse autoencoders для моделей Qwen.
Если проще, это инструмент, который позволяет смотреть внутрь модели и видеть, какие внутренние признаки отвечают за стиль, тему, язык, тон ответа и типичные сбои.
Поведение модели можно изучать и менять не только промптами, а через её внутренн