Wave Computing

Владелец архитектуры MIPS собирается открыть набор её команд (ISA) в 2019 году

Компания Wave Computing 17 декабря 2018 года сообщила о запуске программы MIPS Open, в рамках которой участники бесплатно получат доступ к самым свежим наборам команд MIPS битности 32 и 64 (MIPS instruction set architecture (ISA)) (сами команды и дополнения, подробнее см. на их сайте).

Также участники программы получат лицензии на имеющиеся у компании патенты (платно или бесплатно — пока неясно). Программа MIPS Open будет управляться компанией Wave Computing и консультативным советом, в который предполагается включить производителей оборудования, партнёров, ВУЗы и светил науки.

Эти действия должны придать движение сообществу пользователей архитектуры MIPS, которая была весьма популярна ранее и сохраняет существенное значение сегодня.

По всей видимости, владельцы архитектуры MIPS испугались забвения из-за распространения платной ARM с одной стороны, и свободной RISC-V (RISC-пять) с другой.

Отметим, что пока что прозвучали завления о намерениях, взятие на себя обязательств ожидается позднее. Прояснения данного вопроса стоит ожидать в первой четверти 2019 года.

Компания Wave Computing заявила о приобретении компании MIPS Technologies 15 июня 2018 года в своём сообщении для печати. Компания Wave Computing заявляет о своей нацеленности на сферы AI, ML, Deep Learning и т.д. (в общем, собрали модные темы).

Оглянувшись вокруг себя, читатель может найти одно или несколько устройств на архитектуре MIPS. В России есть достаточно много разработок, её использующих.

Часть сообщения о продаже MIPS Technologies на сайте iXBT стоит привести здесь:

Отметим, что сделка не стала неожиданностью, поскольку генеральный директор Wave Computing Дерек Мейер (Derek Meyer) когда-то был вице-президентом MIPS по продажам и маркетингу; Майк Улер (Mike Uhler), операционный вице-президент Wave Computing, ранее был техническим директором MIPS; а Даррен Джонс (Darren Jones), вице-президент Wave Computing по инженерным вопросам, ранее возглавлял это же направление в MIPS.

За исключением Google Tensor Processing Unit (TPU), большинство систем глубокого обучения сегодня работают на стандартных серверах с процессорами Xeon и графическими ускорителями Nvidia. Но один из бесчисленных ИИ-стартапов, Wave Computing, по словам его исполнительного директора, Дерека Майера (Derek Meyer), разрабатывает абсолютно новую архитектуру, Dataflow Processing Unit (DPU), сокращающую время обучения сложных нейросетей до нескольких часов.

Wave DPU не нуждается в центральном процессоре, операционной системе или приложениях. Он также не имеет общего кэша, благодаря чему не нужно заботиться о когерентности процессов. Первое поколение таких чипов изготовлено на мощностях TSMC по 16-нанометровой технологии. Один DPU содержит 1024 кластера, каждый из которых имеет 16 8-разрядных процессорных ядер и дополнительные 32-разрядные вычислительные блоки MAC (multiply-accumulate) для ключевых арифметических функций свёрточных нейросетей (Convolutional Neural Networks, CNN). Производительность может достигать 181 трлн 8-битных целочисленных операций в секунду или до 16 тераопс с учётом блоков MAC.

Тестировавшаяся более года версия будущей системы имеет 4 DPU, 256 ГБ системной памяти DDR4 и 8 ГБ высокопроизводительной DRAM (Hybrid Memory Cube). Четыре такие платы Wave Compute Appliance могут быть установлены в стойке 3U. Пиковое быстродействие такого узла достигает 11,6 пета операций в секунду.

Общая идея проста. Каждый из DPU сгруппирован и может выполнять несколько задач. Это архитектура NIMD (в отличие от потока управления) и может поддерживать очень высокую пропускную способность памяти. Чипы первого поколения работали на частотах от 6,7 до 8 ГГц в диапазоне от 150 до 200 Вт

Существует 24 «вычислительных машины» на один DPU, архитектура может поддерживать серьезную оперативную память с четырьмя HMC и памятью DDR4, составляющими базовый элемент матрицы, который объединяет их воедино. В случае конфигурации Wave 3U, они могут собрать вместе 16 таких машин.

Можно представить несколько возможных результатов для Wave Computing, наиболее вероятным из которых является быстрое приобретение со стороны крупной компании, которая ищет системный хук для глубокого обучения - тот, который может превзойти Nvidia по цене и производительности. Конечно, он также должен иметь необходимый программный стек, что является областью, в которой Nvidia опередила собственные библиотеки CUDA, чтобы подключиться к большинству известных сред глубокого обучения.

Система Wave Computing будет основана на контейнерах для поддержки микросервисно-ориентированной архитектуры с SDK на основе TensorFlow для запуска и выполнения моделей (с Python или C ++ API для TensorFlow), а также низкоуровневого SDK для больших центров обработки данных, которые хотят поддерживать разные языки. Цель состоит в том, чтобы модели TensorFlow работали намного быстрее из коробки

Майер намекнул, что коммерческая система, которую готовится анонсировать Wave Computing, может выглядеть совсем по другому. Это может быть не стоечный сервер, а, например, рабочая станция наподобие Nvidia DGX1 Station, комплектующейся четырьмя Tesla V100 GPU. Не исключено, что Wave также предложит свои DPU как сервис — самостоятельно или через облачного партнёра.

Впервые Wave анонсировала DPU в 2016 г. на Linley Processor Conference, где пообещала примерно 10-кратное ускорение по сравнению с современными GPU. В дальнейшем компания заявила уже о 1000-кратном превосходстве по отношению к CPU, GPU и FPGA, и подкрепила свои слова результатами прогонки на узле из 64 DPU тестов распознавания изображений с несколькими CNN и машинного перевода на рекуррентных нейросетях (RNN). Майер утверждает, что производительность коммерческой системы может оказаться ещё более высокой.

Ведущие специалисты и руководители отрасли прокомментировали слияние Wave Computing и MIPS Tech:

Дадо Банатао (Dado Banatao), председатель советов директоров в компаниях Wave Computing и MIPS Technologies, отметил: «Сейчас самое подходящее время для расширения Wave Computing, и я рад видеть, что компания развивается и превращается в локомотив ИИ. Предпринятая Wave интеграция двух лидирующих в отрасли вычислительных архитектур в одном решении, объединяющем уровни данных и контроля — dataflow и архитектуру фон Неймана — поистине уникальна и осуществлена впервые в отрасли. Это будет способствовать появлению прорывных решений в области ИИ и других сферах».

«Это важная веха не только в истории наших двух компаний, но и всей индустрии ИИ, — заявил Дерек Мейер (Derek Meyer), генеральный директор Wave Computing. — Имея на руках воплощенное в кремнии работающее устройство для обработки данных и находясь на заключительной стадии вывода наших первых систем ИИ на рынок, мы подошли к моменту расширения до уровня периферийных облачных вычислений. Приобретение MIPS позволяет нам комбинировать технологии для создания продуктов, которые сформируют единую платформу «Datacenter-Edge», идеальную для ИИ и глубокого обучения. Мы уже получили очень мощную и восторженную поддержку от ведущих поставщиков и стратегических партнеров, поскольку они видят большую ценность в том, что специалисты по обработке и анализу данных смогут экспериментировать, разрабатывать, тестировать и развертывать свои нейронные сети на общей платформе, распространяющейся до периферии облака».

Александр Стоянович (Alexander Stojanovic), вице-президент по машинному обучению и прикладным исследованиям eBay, отметил: «Для центров обработки данных, управляемых ИИ, использование специально разработанных платформ для рабочей нагрузки с высокой пропускной способности и низкой латентностью — это кардинальная перемена. Они позволяют ускорить время выхода на доходность и повысить отстройку от конкурентов, используя некоторые из самых последних тенденций в области ИИ, такие как генеративно-состязательные сети (GAN) и модели на основе внимания для временных рядов и данных естественного языка. За счет возможности быстрее создавать более глубокие и сложные модели машинного обучения большие корпорации смогут оптимально использовать ИИ в качестве фундаментальной основы своих цифровых стратегий».

Бен Беярин (Ben Bajarin), старший аналитик Creative Strategies, отметил: «Будучи давним сторонником архитектуры MIPS, я верил в уникальную ценность этой технологии, которая наполняет 64-бита возможностями многопоточности. Комбинация архитектуры MIPS с технологией dataflow компании Wave Computing в одном решении создаст непревзойденное предложение для индустрии ИИ и принесёт пользу разработчикам и в центре, и на периферии облака».

Киран Кумар (Kiran Kumar), аналитик по технологиям в фирме Frost & Sullivan, отмечает: «Wave Computing — один из первых стартапов в области ИИ, который расширяется за счет приобретения другой компании. Благодаря MIPS Wave может нарастить свои рыночные возможности. Этот шаг, в частности, объясняет, почему Frost присудило компании Wave Technology звание «Лидер инноваций в технологиях машинного обучения» в 2018 году. Мы с нетерпением ждём новых успехов и роста Wave».

Карл Фройнд (Karl Freund), ведущий аналитик по высокопроизводительным вычислениям и глубокому обучению в агентстве Moor Insights & Strategy, говорит: «Приобретение MIPS компанией Wave Computing является смелым шагом, он может ускорить для компании время выхода на прибыльность и увеличить её присутствие в отрасли. Добавив дополнительные активы в портфель интеллектуальной собственности, сконцентрированный на dataflow, компания Wave позиционирует себя как гораздо более широкого игрока в сфере ИИ».

Рич Вавжиняк (Rich Wawrzyniak), старший аналитик Semico Research, отметил: «Я рад, что MIPS будет принят одной из самых передовых компаний мира в области технологий ИИ. Мало того, что это приобретение усиливает позиции Wave Computing в dataflow, еще оно предоставляет команде MIPS прочную основу для развития под надежным руководством ветеранов MIPS и лидеров ИИ. Это блестящий ход».

Кевин Крюэлл (Kevin Krewell), старший аналитик TIRIAS Research, сказал: «Слияние Wave Computing с MIPS обещает разработчикам ИИ единую платформу, которая может масштабироваться от оконечных узлов интернета вещей до датацентров. Это смелый и стратегически важный шаг Wave, укрепляющий позиции компании среди группы стартапов в области ИИ».

Ананд Джоши (Anand Joshi), старший аналитик исследовательской компании Tractica, отметил: «Рыночные возможности ИИ растут взрывными темпами, особенно в периферийных приложениях, таких как автомобильная индустрия, розничная торговля, интернет вещей, потребительский и производственный сектора. Благодаря этому приобретению Wave Computing теперь является одним из немногих поставщиков технологий ИИ, охватывающих весь спектр решений ИИ».

Источник: wavecomp.ai

Комментарии: