Российский нейроморфный процессор стал доступен для широкого использования. Что это значит?

Компания «Мотив НТ» из Новосибирска, которая разрабатывает системы технического зрения и аппаратные решения для их работы, выложила open-source код для создания, обучения и использования импульсных нейронных сетей. В основе разработки платформа KNP с программным пакетом и эмулятором нейроморфного процессора AltAI (Алтай). Это позволяет разрабатывать и тестировать алгоритмы для работы на нейроморфном «железе».

Что такое нейроморфный процессор?

Нейроморфный процессор (НП) — это вычислительное устройство, которое работает по принципу биологических нейронных сетей. В отличие от классических CPU и GPU, в нейроморфных процессорах стремятся минимизировать зависимость от архитектуры фон Неймана, при которой данные постоянно перемещаются между памятью и вычислительным ядром. Информация хранится в искусственных нейронах, что уменьшает количество обращений к памяти. Это снижает энергопотребление и увеличивает скорость обработки.

То есть обычные процессоры выполняют инструкции последовательно, а нейроморфные — параллельно, подобно тому, как это делает мозг. Они используют распределённую память и вычисления, где данные хранятся непосредственно в элементах, имитирующих нейроны и синапсы. 

Синапсы — это связи между нейронами, которые в биологических системах передают сигналы. В НП они реализованы в виде электронных схем, регулирующих силу передачи сигнала от одного нейрона к другому. Вес синапса определяет, насколько сильно активация одного нейрона влияет на активацию другого, связанного с ним. Вес может изменяться в процессе обучения, что позволяет сети адаптироваться к новым данным.

Нейроморфные процессоры работают на основе импульсных нейронных сетей (Spiking Neural Networks, SNN). В этих сетях нейроны обмениваются не непрерывными значениями (как в традиционных нейронных сетях), а короткими импульсами, называемыми спайками. 

Нейроны в SNN активируются только при наличии значимых входных данных. Если входные данные отсутствуют или незначимы, нейроны остаются в состоянии покоя, что снижает потребление энергии в неактивных состояниях.

Почему нейроморфные процессоры важны:

• Энергоэффективность. Они потребляют намного меньше энергии, чем обычные процессоры, особенно при распознавании изображений, голосов или обучении систем искусственного интеллекта.

• Скорость. НП могут быстро решать сложные задачи, потому что обрабатывают данные параллельно и не обращаются к памяти так часто.

• Обработка данных в реальном времени. Эти процессоры подходят для приложений, где нужно быстро реагировать на изменения данных, например, для автономных автомобилей, роботов и обработки сигналов.

• Возможность обучения на устройствах. Низкое энергопотребление позволяет обучать модели машинного обучения прямо на устройстве, без отправки данных в облако. 

Платформа KNP и её возможности

Платформа KNP — инструмент для разработки систем, способных к самообучению и адаптации в реальном времени. Такие системы имитируют принципы работы нейронных сетей человеческого мозга и выполняют задачи, которые требуют быстрой обработки и анализа больших объёмов данных. Платформа использует нейроморфное машинное обучение, которое применяется в производстве, беспилотном транспорте, робототехнике, VR/AR, речевых интерфейсах.

KNP — это экосистема для разработки SNN, которая включает в себя: 

• эмулятор AltAI — цифровую модель нейроморфного процессора для тестирования сетей;

• пакет ANN2SNN — конвертер обычных нейросетей (ANN) в импульсные (SNN);

• API и библиотеки для интеграции с Python, ROS (Robot Operating System) и промышленными контроллерами. 

Что собой представляет НП AltAI-1

AltAI-1 — это сверхбольшая интегральная схема, которая имитирует работу биологических сенсорных и нервных систем. Разработана для работы с импульсными нейронными сетями, которые могут быть созданы с помощью инструментов платформы или через тернарные слои пакета ANN2SNN.

Архитектура и принцип работы AltAI-1

AltAI основан на концепции «вычислений в памяти» (computing-in-memory), где обработка данных происходит непосредственно в ячейках памяти, что исключает необходимость постоянного перемещения информации между памятью и процессором.

Чтобы начать работу с импульсной нейронной сетью, нужно объединительную плату с НП AltAI-1 подключить к компьютеру через интерфейсы PCI-E или USB.

Основной элемент SNN — это нейрон, который имеет набор входных соединений (дендритов) и один выход (аксон). Состояние нейрона определяется его мембранным потенциалом. 

• В состоянии покоя этот потенциал составляет примерно -70 мВ, что означает отрицательный заряд внутренней стороны мембраны относительно внешней.

• Когда мембранный потенциал достигает порогового значения (обычно около -55 мВ), нейрон генерирует импульс, называемый спайком, который передаётся через аксон к другим нейронам. Этот процесс известен как потенциал действия (ПД). 

• Во время генерации спайка мембрана временно «перезаряжается»: внутренняя сторона становится положительно заряженной относительно внешней, что позволяет нейрону подготовиться к следующей активации.

• Механизм утечки — процесс, при котором мембранный потенциал постепенно снижается, если нейрон не активируется. Это имитирует естественное поведение биологических нейронов, где потенциал со временем уменьшается, если нет стимуляции.

Основные компоненты AltAI-1 — вычислительные ядра. Каждое ядро объединяет группу нейронов и локальную память для хранения их параметров:

• пороговые значения активации нейронов;

• весовые коэффициенты синапсов;

• текущий мембранный потенциал каждого нейрона.

Поведение нейронов моделируется с помощью конечного автомата, который имитирует процессы деполяризации, генерации спайков и восстановления мембранного потенциала.

Синхронизация работы всех нейронов в SNN осуществляется с помощью глобального сигнала «тик». После каждого «тика» вычислительные ядра обновляют мембранные потенциалы нейронов и, при необходимости, генерируют и передают спайки.

• За один «тик» каждое ядро выполняет до 262 144 синаптических операций.

• Частота сигнала «тик» ограничена значением 2 кГц.

• Одна синаптическая операция выполняется за один такт синхросигнала с частотой 600 МГц.

Это означает, что, хотя каждое ядро способно обрабатывать большое количество синапсов, общая скорость работы процессора определяется частотой тика.

Архитектура AltAI-1 представляет собой регулярную двумерную сеть вычислительных ядер. Каждое ядро имеет прямые соединения с четырьмя соседними ядрами, что обеспечивает эффективную локальную передачу спайков. 

Для передачи сигналов между нейронами, расположенными в удалённых ядрах, используется механизм маршрутизации спайков по сети ядер. Это позволяет менять потенциал нейрона, который моделируется под влиянием импульсов из других ядер.

Традиционные нейросети (CNN, RNN) требуют огромных вычислительных ресурсов и энергозатрат. Например, обучение GPT-3 потребовало 1,287 МВт·ч — столько же, сколько 120 домов в год. Нейроморфные системы решают эту проблему, предлагая «зеленую» альтернативу для edge-устройств (датчики, камеры, дроны), где важны автономность и скорость. 

Текущие результаты разработки:

• Создан и успешно протестирован прототип НП AltAI-1 с использованием 28-нанометровой технологической нормы. Микросхемы интегрированы в корпус и прошли все необходимые тесты.

• Разработан модуль акселератора, объединяющий 8 прототипов AltAI-1 для повышения вычислительной мощности.

• Создана плата, поддерживающая подключение до 16 модулей нейроморфного акселератора. Она обеспечивает удобный интерфейс для взаимодействия с компьютером.

• Разработан комплект SDK, включающий в себя инструменты для работы с процессором, а также функции преобразования традиционных нейронных сетей (ANN) в импульсные (SNN). Это упрощает интеграцию процессора в существующие системы.

Зачем нам нужны нейроморфные процессоры

• Медицина. НП способны обрабатывать медицинские изображения (МРТ, рентген) с высокой скоростью и точностью. Это помогает врачам быстрее ставить диагнозы и выявлять заболевания на ранних стадиях. Такие процессоры могут быть встроены в бионические протезы. Искусственная рука с нейроморфным чипом может «понимать» сигналы от мышц и двигаться почти так же, как настоящая рука.

• Автономные транспортные средства. Беспилотные автомобили нуждаются в быстрой обработке огромного количества данных с камер, радаров и других сенсоров. Нейроморфные процессоры анализируют эту информацию в реальном времени, помогая избегать аварий и адаптироваться к сложным дорожным условиям. 

• Пограничный искусственный интеллект (Edge AI). Нейроморфные процессоры идеальны для устройств, которые должны обрабатывать данные в реальном времени, таких как умные камеры и датчики. Они работают локально, без необходимости подключения к облаку, что снижает задержки и продлевает срок службы батарей.

• Робототехника. Нейроморфные системы улучшают сенсорное восприятие и способность роботов принимать решения. Это позволяет им лучше ориентироваться в сложных условиях, распознавать объекты и взаимодействовать с людьми. Например, роботы на складах могут эффективно сортировать товары или выполнять другие задачи с высокой точностью.

• Нейробиологические исследования. НП помогают ученым изучать работу мозга, моделируя нейронные сети. Это позволяет глубже понять когнитивные процессы и может привести к новым открытиям в нейробиологии и медицине.

Заключение

Нейроморфные процессоры — не просто шаг вперёд в вычислительной технике, это возможность создать более умные, энергоэффективные и адаптивные системы, которые смогут решать задачи, ранее недоступные для традиционных технологий.