В нескольких группах натолкнулся на обсуждения, в которых демонстрируется непонимание того, что нейронные сети - это не только GPT, Midjourney, и иже с ними, но и большое количество других видов

Особенный холивар, связанный со спецификой Ардуино, вызывают примеры tinyML-устройств, типа таких "tinyML-модуль: Голосовое управление роботом ( - многие утверждают, что там нет ни AI, ни сетей, и вообще - это всё "просто распознавание голоса", "просто маркетинг", "громкие заголовки" и так далее.

Попробую объяснить.

TinyML позволяет внедрять искусственный интеллект в самые простые гаджеты, например, в умные часы, датчики движения или, как в примере, где для распознавания набора голосовых команд используются нейронные сети, в ардуино-робота или машинку.

Нейронные сети запускаются на очень маленьких и энергоэффективных устройствах, таких как микроконтроллеры, работающие на батарейках. В примере с распознаванием команд используется ESP32-S3, где работает двухядерный 32-битный процессор на частоте до 160МГц, а на борту всего 8MB PSRAM и 8MB FLASH.

Почему TinyML — это настоящие нейронные сети?

Скептики иногда думают, что на таких устройствах невозможно запустить полноценные нейронные сети, но это заблуждение, вот почему:

Те же принципы работы, как и с "большими" сетями. TinyML использует те же базовые концепции нейронных сетей, что и большие модели. Например, в устройстве для распознавания голоса, которым является модуль голосового управления роботом, использованы сверточные нейронные сети (CNN).

Оптимизация для исполнения на микроконтроллерах. Модели специально оптимизируют для маленьких устройств, используя методы вроде квантования (снижение точности) и прунинга (удаление ненужных частей модели). Это уменьшает размер модели, но не лишает ее способности решать узконаправленные задачи.

Инструменты и экосистема. Для разработки TinyML используются специальные версии привычных фреймворков, например TensorFlow Lite Micro, которые помогают перенести модели на микроконтроллеры.

Так же и в устройстве-примере - оно имеет очень узкую функциональность - распознавание всего 12 команд и передача их по различным интерфейсам. Для реализации этой задачи разработчик отпмизировал открытую нейронную сеть для исполнения на ESP32. Поэтому указанный модуль - это устройство с ИИ, хоть и выполняет "простую" задачу распознавания команд пользователя.

Источник: vk.com

Комментарии: