На конференции по графическим технологиям в Китае компания NVIDIA представила новые решения для платформы глубокого обучения на базе архитектуры Pascal, включая два графических ускорителя Tesla P4 и

На конференции по графическим технологиям в Китае компания NVIDIA представила новые решения для платформы глубокого обучения на базе архитектуры Pascal, включая два графических ускорителя Tesla P4 и Tesla P40, а также программное обеспечение, предназначенное для ускорения и оптимизации анализа информации для сервисов, в основе которых лежит использование искусственного интеллекта. Так как нейронным сетям, необходимым для всевозможных сервисов (голосовые помощники, почтовые фильтры спама и движки генерации рекомендуемых фильмов), сегодня требуется в 10 раз больше вычислений, чем год назад, все представленные NVIDIA решения имеют важное значение для индустрии.

Графические ускорители Tesla P4 и Tesla P40 созданы специально для ускорения операций инференса - использования обученных глубоких нейронных сетей для распознавания речи, изображений и текста. Новые графические процессоры используют специальные инструкции инференса на базе 8-битных данных, обеспечивая ответную реакцию в 45 раз быстрее по сравнению с центральным процессором и в 4 раза быстрее по сравнению с графическими процессорами, представленными менее года назад.

Tesla P4 предназначен для гипермасштабируемых дата-центров. Данный ускоритель в 40 раз экономичнее центральных процессоров в задачах использования результатов обучения нейронных сетей при обработке данных. Сервер с одним Tesla P4 может заменить 13 серверов на базе центральных процессоров, предназначенных для анализа данных, что сокращает общую стоимость системы в 8 раз.

Модель Tesla P40 создана для обеспечения максимальной пропускной способности для задач глубокого обучения. Производительность данного ускорителя составляет 47 тера-операций в секунду с инструкциями INT8. Сервер с восемью Tesla P40 может заменить 140 серверов на базе центральных процессоров.

"В лице Tesla P100, а теперь и Tesla P4 и P40, компания NVIDIA предлагает единственную комплексную платформу глубокого обучения для дата-центров, раскрывая огромные возможности искусственного интеллекта для решения самого широкого круга задач. Новые процессоры сокращают время обучения нейронных сетей с нескольких дней до нескольких часов. Они позволяют мгновенно извлечь данные из анализируемых материалов. И они выдают ответы в реальном времени пользователям сервисов искусственного интеллекта", - рассказывает говорит Ян Бак, директор по ускоренным вычислениям в NVIDIA.

Помимо новых ускорителей, NVIDIA представила два новых программных продукта, предназначенных для ускорения работы сервисов на базе искусственного интеллекта: NVIDIA TensorRT и NVIDIA DeepStream SDK.

NVIDIA TensorRT является библиотекой, созданной для оптимизации моделей глубокого обучения, которая обеспечивает мгновенную ответную реакцию для сетей любой сложности. Путём оптимизации обученных нейронных сетей для операций INT8 пониженной точности TensorRT увеличивает пропускную способность и эффективность приложений глубокого обучения.

NVIDIA DeepStream SDK использует мощности сервера на базе решений на архитектуре Pascal для одновременного декодирования и анализа в режиме реального времени до 93 видеопотоков в формате HD, в отличие от 7 потоков в случае с серверами на базе двух центральных процессоров. Это позволяет решить одну из сложнейших задач в области применения искусственного интеллекта - восприятие масштабируемого видеоконтента, - и открывает возможности для использования искусственного интеллекта в таких областях, как самоуправляемые автомобили, интерактивные роботы, фильтрация и размещение рекламы.

"Нам очень важно, чтобы наши клиенты могли создавать простые приложения с мгновенной реакций. Мы используем графические процессоры NVIDIA для таких наших сервисов искусственного интеллекта, как Deep Speech 2. Применение графических ускорителей позволяет добиться такой оперативности, которая попросту невозможна на других неускоренных решениях. Pascal, с поддержкой инструкций INT8, позволяет нам сделать ещё один шаг вперед, и теперь мы можем делать пользовательские возможности еще лучше", - рассказал Грэг Диамос, старший исследователь в Baidu.

Графические ускорители NVIDIA Tesla P4 и Tesla P40 станут доступны по всему миру в ноябре и декабре этого года.

Комментарии: