Microsoft представила чип ИИ Maia 200 — эффективный ускоритель для инференса и обучения ИИ

В пресс-релизе Microsoft говорится, что Maia 200 производится по 3-нанометровому техпроцессу TSMC. Чип получил тензорные ядра с поддержкой форматов FP8 и FP4 для ускорения обучения и инференса нейросетей. Также в SoC интегрированы 216 ГБ памяти HBM3E производства SK hynix. Для сравнения, процессор Maia прошлого поколения имел лишь 64 ГБ HBM2E.

Если верить тестам Microsoft, Maia 200 предлагает втрое более высокую производительность в FP4-вычислениях по сравнению с третьим поколением Amazon Trainium, а по FP8 превосходит TPU седьмого поколения от Google. Во внутренней ИИ-инфраструктуре Microsoft новый чип стал самым эффективным решением для инференса нейросетей — производительность на вложенный доллар выросла на 30 %.

Microsoft планирует сделать Maia 200 частью своей гибридной ИИ-платформы. Чип будет работать с передовыми моделями ИИ, включая OpenAI GPT-5.2. Также Microsoft уже начала работу над следующим поколением — Maia 300. Разработка ведется в сотрудничестве с OpenAI.

Источник: vk.com

Комментарии: