Фотонные ИИ-сопроцессоры LightOn

Базирующийся в Париже (Франция) стартап LightOn представил своё первое коммерческое устройство — самый мощный в мире, по словам компании, фотонный сопроцессор, предназначенный для систем искусственного интеллекта (ИИ) и высокопроизводительных вычислений.

Устройство, рассчитанное на монтаж в стойку, выполнено в формате 2U. «Сердце» системы — оптический процессор (OPU) Aurora2, содержащий одно фотонное ядро Nitro второго поколения. Его быстродействие составляет 1,5 TeraOPS при показателе TDP всего в 30 Вт. В ряде задач OPU значительно быстрее CPU и GPU, и при этом потребляет намного меньше энергии.

Для работы с устройством необходим сервер с Intel Xeon (на AMD тоже всё должно работать, но совместимость не проверялась), Ubuntu 18.04+ или Debian 10, Python 3.7+ и свободным слотом PCIe 2.0 x4. Поддерживаются PyTorch 1.0+ и scikit-learn, а также фирменная библиотека LightOn ML v1.2 и собственный SDK.

Устройство будет доступно заказчикам на условиях аренды. Стоимость начинается с €1900/мес. (без НДС) при заключении контракта на три года. Поставки устройств начнутся в июне 2021 года. Компания также предлагает заранее сконфигурированные решения, техническую поддержку и индивидуальные обучающие курсы. Более подробную информацию о новинке можно найти здесь. Кроме того, у компании есть облачный сервис, где доступны OPU первого поколения.

LightOn Appliance - это самый мощный фотонный сопроцессор AI / HPC на рынке сегодня, с блоком оптической обработки Aurora2 (OPU), максимальная производительность которого достигает 1500 тераопс при 30 Вт TDP .

LightOn Appliance позволяет масштабировать машинное обучение , используя уникальные возможности фотоники для выполнения действительно массовых параллельных вычислений , в которых векторы размером в миллион могут обрабатываться одновременно.

LightOn Appliance - первый коммерческий фотонный сопроцессор, построенный на вычислительной парадигме, отличной от фон Неймана . LightOn Appliance использует фотонику для обработки крупномасштабных общих данных в «зарисовки», раскрывающие информацию, открывая новые возможности, начиная от фундаментальных проблем математики и машинного обучения и заканчивая устранением некоторых из крупнейших на сегодняшний день узких мест в производстве для науки о данных, высокопроизводительных вычислений и искусственного интеллекта.

Максимальный размер входных данных: 1 миллион (1039 680) 1 бит

Максимальный выходной размер : 2 миллиона (2 267 392) 8-бит

Пиковая производительность в пакетном режиме : 50 TOPS / Вт * (до 1900 умножений векторных плотных матриц в секунду)

Nitro, фотонное ядро первого поколения

Мозгом нынешних OPU является Nitro, Photonic Core - Nitro Gen1 управляет Aurora 1.5, доступным в LightOn Cloud , а обновленный Nitro Gen2 управляет Aurora2, доступным в LightOn Appliance .

Нитро-фотонное ядро ??реализует определенные операции умножения матрицы на вектор в массовом параллельном режиме, при котором входные и выходные данные размером до одного миллиона обрабатываются одновременно в течение одного тактового цикла.

Точнее, нитро-фотонное ядро выполняет случайные проекции, эквивалентные 1900 плотным умножениям матрицы на вектор в секунду .

Таким образом, нитро-фотонное ядро обеспечивает потрясающую производительность в 1500 тераопераций в секунду при мощности всего 30 Вт или около 50 TOPS / Вт .

Источник: vk.com

Комментарии: