GitHub - huggingface/smol-course: A course on aligning smol models.

Hugging Face запустили бесплатный открытый курс по файнтюнингу моделей. В курсе рассматриваются теория и практические аспекты работы с такими методами, как LoRA, супервайзед-файнтюнинг, DPO, ORPO и другие техники для настройки моделей под конкретные задачи.

Примеры в курсе основаны на использовании модели SmolLM2, а сам материал ориентирован на работу с локальными моделями, однако полученные знания могут быть легко применены к другим моделям.

Это полезный и интересный ресурс, особенно для тех, кто занимается файнтюнингом на практике или изучает эту тему. Ссылку на курс можно найти ниже.

Источник: github.com

Комментарии: