Компания Gigabyte выпустила программное обеспечение для искусственного интеллекта, помогающее обучать свой собственный ИИ

Gigabyte официально выпустила свою новую утилиту для обучения и тонкой настройки локальных моделей искусственного интеллекта для работы с новой линейкой оборудования, ориентированного на искусственный интеллект. Используя новую утилиту с рекомендованным Gigabyte оборудованием, пользователи могут локально обучать и настраивать модели искусственного интеллекта с 236 миллиардами параметров и более. Ранее для обучения модели искусственного интеллекта такого размера обычно требовалась помощь удаленного центра обработки данных.

Как сообщает Tom's Hardware, новая утилита AI TOP на базе Linux работает с оборудованием Gigabyte и была специально разработана для запуска моделей с искусственным интеллектом. В список входят материнские платы, твердотельные накопители AI TOP, видеокарты и блоки питания. В настоящее время на специальном веб-сайте представлены только один блок питания и материнская плата. В нем также перечислены два твердотельных накопителя и три видеокарты.

Согласно пресс-релизу, другие видеокарты Gigabyte должны работать с AI TOP. К ним относятся видеокарты Gigabyte Nvidia GeForce RTX 40-й серии, AMD Radeon RX 7900-й серии, Radeon Pro W7900 и W7800-й серии.

AI TOP уже настроена на поддержку более 70 моделей LLM с открытым исходным кодом на Hugging Face. К ним относятся Baichuan 2, Distill-GPT2, GLM4, Llama 2 и Llama 3 и другие. Выбор в AI TOP ограничен несколькими факторами, включая ограничения по объему памяти в том, что фактически все еще является оборудованием для настольных ПК.

Выполняя локальную настройку модели искусственного интеллекта, пользователи могут быть более уверены, что их конфиденциальные данные останутся в безопасности при обучении модели. Для использования этого инструмента пользователям не нужны навыки программирования в области искусственного интеллекта, а панель мониторинга упрощает мониторинг состояния загрузки оборудования и качества обучения.

Компания Gigabyte упростила то, что раньше было сложными параметрами команд для обучения моделей искусственного интеллекта, до настраиваемых настроек и простых в эксплуатации опций тонкой настройки. Она предоставляет то, что компания Gigabyte называет “дружественным графическим пользовательским интерфейсом”, помогающим новичкам и более опытным пользователям разобраться в информации и настройках.

Программное обеспечение Gigabyte также включает в себя AI TOP Tutor, технологию искусственного интеллекта, которая помогает с консультациями по решениям AI TOP, руководством по настройке и технической поддержкой для начинающих и продвинутых операторов моделей искусственного интеллекта. Утилита работает только под управлением Linux и доступна для бесплатной загрузки с веб-страницы Gigabyte.

Источник: vk.com

Комментарии: