Саратовские ученые нашли способ сделать нейросеть человечнее

Перспективным направлением для создания более экономичных вычислительных систем сегодня считаются спайковые нейронные сети. Это связано с тем, что они способны моделировать принципы работы биологического мозга. В отличие от традиционных искусственных сетей, каждый нейрон спайковой сети активируется только при поступлении внешнего сигнала, а не работает постоянно.

Такая особенность позволяет значительно снизить затраты во время их использования, рассказали исследователи Саратовского национального исследовательского государственного университета имени Н.Г. Чернышевского (СГУ).

Специалисты вуза изучили то, как различные типы шума влияют на активность искусственных нейронов спайковых сетей. По их словам, это важно, поскольку это в реальных условиях работа всегда происходит при наличии помех и случайных воздействий.

Ученым удалось обнаружить интересный феномен: при определенной интенсивности шума возникает эффект упорядочивания активности нейронов, что делает их работу более стабильной и эффективной. Это явление когерентного резонанса — возникновения порядка из хаоса.

«Это фундаментальное исследование дает представление о том, как лучше включать нейроны в сеть и настраивать их параметры для нормального функционирования. Необдуманный выбор параметров может привести к созданию нефункциональной или слабоэффективной сети», — рассказал доцент кафедры радиофизики и нелинейной динамики СГУ Андрей Бух.

По его словам, связь между нейронами приводит к увеличению их «инертности», в результате чего они меньше подвержены влиянию шума. Однако увеличение связи будет приводить не только к уменьшению влияния шумов, но и к уменьшению способности нейрона распространять полезные сигналы.

Результаты показали необходимость поиска баланса: нейроны должны быть достаточно связаны, чтобы противостоять вредному шуму, но не настолько, чтобы это мешало передаче важной информации. Понимание этого механизма является ключевым шагом к «тонкой настройке», необходимой для создания работоспособных спайковых нейросетей.

В последние годы интерес различных научных групп к спайковым нейронным сетям увеличивается, рассказали ученые СГУ. При этом очень много работ посвящено самой простой модели. 

«Поскольку нас интересует гораздо большее приближение к возможному применению таких сетей, мы исследуем режимы функционирования нейронов ФитцХью-Нагумо. Сложность использования подобных моделей в том, что они требуют тонкой настройки, которой мы и занимались в этом исследовании», — прокомментировал Бух.

В ходе исследования ученые использовали способы моделирования источников шума и методы моделирования динамических систем, выраженных дифференциальными уравнениями.