Nemotron 4 340B - a nvidia Collection

Nemotron 4 340B!

Nvidia только что выпустила LLM размером 340B , модель близкую к производительности OpenAI GPT-4 ? NVIDIA не претендует на право собственности на какие-либо сгенерированные выходные данные. ?

340 миллиардов параметров в контекстном окне 4k

Обучена на 9 триллионах токенов

Поддерживает более чем 50 языков и более чем 40 языков программирования

Трубует 16x H100 в bf16 и ~8x H100 в int4

Модель доступна на huggingface

Модель: https://huggingface.co/collections/nvidia/nemotron-4-340b-666b7ebaf1b3867caf2f1911

Технический отчет: https://research.nvidia.com/publication/2024-06_nemotron-4-340b

Источник: huggingface.co

Комментарии: