Настольный суперкомпьютер Nvidia Project Digits с искусственным интеллектом помещается на ладони — 3000 долларов за производительность 1 петафлопс

Компания Nvidia анонсировала множество новых инноваций на своём 90-минутном выступлении на выставке CES, но самым интригующим анонсом стал суперкомпьютер Project Digits с искусственным интеллектом. Project Digits (название, по-видимому, может измениться) выйдет в мае и будет иметь производительность 1 петафлопс с плавающей запятой FP4 в форм-факторе, который удобно помещается в руках главы Nvidia Дженсена Хуана.

Проект Digits был разработан по той же концепции, что и серверы Nvidia DGX 100: предоставить конечным пользователям готовое решение для суперкомпьютера на базе ИИ без необходимости в инфраструктуре, необходимой для полноценного решения на базе суперкластера. В то время как DGX 100 размещается в серверных стойках, Project Digits размещается на рабочем столе и занимает примерно столько же места, сколько Mac Mini.

В основе Digits лежит суперчип GB10 Grace Blackwell, созданный в сотрудничестве Nvidia и MediaTek. Графический процессор Nvidia Blackwell, производительность которого составляет 1 петафлопс, работает на одном кристалле с 20-ядерным процессором Grace благодаря NVLink C2C. К суперчипу на плате подключены 128 ГБ памяти LPDDR5X от Micron и твердотельный накопитель NVMe емкостью 4 ТБ. В компьютере также установлен интеллектуальный сетевой адаптер Nvidia ConnectX, обеспечивающий поддержку NCCL, RDMA и GPUDirect.

Такая невероятная мощность, заключённая в крошечном корпусе, означает, что один модуль Project Digits может работать с большими языковыми моделями ИИ с 200-миллиардной итерацией. Для сравнения, модель GPT-4o от OpenAI — это модель с 12-миллиардной итерацией, а это значит, что Project Digits может запускать и настраивать ChatGPT локально. В сочетании с другим модулем в режиме «двойных Digits» поддержка увеличивается до 405 миллиардов моделей.

Конечные пользователи, которым нужен локальный доступ к более масштабному решению для вычислений на основе ИИ, станут целевой аудиторией Project Digits. Мощный компьютер, предназначенный для ИИ, имеет аппаратное и программное обеспечение. Project Digits поставляется с предустановленным полным программным стеком Nvidia для ИИ-решений: библиотеками, фреймворками и инструментами управления инфраструктурой для подключения к более масштабному решению для ИИ и управления им.

Digits может служить в качестве устройства для связи с облачным решением через ПК или использоваться в качестве рабочей станции Linux на дистрибутиве DGX OS от Nvidia. Пользователи «могут создавать прототипы, настраивать и тестировать модели в локальных системах Project DIGITS», а затем развертывать их в облаке или локальной инфраструктуре центра обработки данных, говорится в сопроводительном пресс-релизе Nvidia. Согласно документации Nvidia, целевая аудитория — это предприятия или исследователи/студенты, хотя по-настоящему увлечённого любителя это, скорее всего, не остановит от покупки устройства.

Источник: www.tomshardware.com

Комментарии: