Docker представил Model Runner — локальный запуск ИИ-моделей в один клик?

Docker анонсировал Model Runner — новый инструмент, позволяющий запускать и тестировать модели искусственного интеллекта (ИИ) локально, прямо из вашей текущей рабочей среды. Теперь разработчики могут легко интегрировать ИИ в свои приложения без необходимости сложной настройки или использования облачных сервисов.?

Основные возможности:

Локальный запуск моделей: Возможность запускать модели ИИ прямо на вашем компьютере без необходимости подключения к облаку.?

Интеграция с Docker: Использование знакомых инструментов Docker для управления ИИ-моделями.?

Поддержка популярных моделей: Возможность загрузки и использования моделей от ведущих поставщиков, таких как Hugging Face.?

OpenAI-совместимый API: Интерфейс, совместимый с API OpenAI, облегчает интеграцию моделей в существующие приложения.?

Как начать:

Установите Docker Desktop версии

Включите функцию Model Runner в настройках Docker Desktop.?

Используйте команду docker model pull для загрузки нужной модели.?

Запустите модель с помощью команды docker model run.

https://www.docker.com/blog/introducing-docker-model-runner/

Источник: www.docker.com

Комментарии: