Apple и NVIDIA ускоряют будущее ИИ: сотрудничество ради новых возможностей

Apple и NVIDIA объединили усилия, чтобы вывести работу больших языковых моделей (LLM) на новый уровень. Компании разработали инструменты, которые позволили ускорить обработку ответов ИИ на графических чипах NVIDIA в 2,7 раза.

Ключевую роль в этом прорыве сыграл алгоритм Apple — ReDrafter, который был адаптирован для работы с чипами NVIDIA. Он также поддерживает процессоры Apple Silicon, делая его универсальным инструментом для работы с LLM.

Преимущества нового подхода очевидны: сокращение времени отклика на запросы и уменьшение задержек делает взаимодействие с чат-ботами и другими ИИ-приложениями быстрее и удобнее для пользователей.

Особенно важным шагом стало то, что Apple открыла исходный код ReDrafter. Теперь разработчики по всему миру могут использовать этот инструмент для оптимизации собственных языковых моделей.

Новый виток сотрудничества двух технологических гигантов обещает существенно повлиять на развитие генеративного ИИ.

Источник: vk.com

Комментарии: