Искусственные нейроны самоорганизуются

Исследовательская группа создает сеть самообучающихся инфоморфных нейронов.

Источник: Институт динамики и самоорганизации Макса Планка.

Резюме: Новые искусственные нейроны обучаются независимо и в большей степени основаны на своих биологических аналогах. Команда исследователей запрограммировала эти инфоморфные нейроны и построила на их основе искусственные нейронные сети. Особенность заключается в том, что отдельные искусственные нейроны обучаются самоорганизующимся образом и извлекают необходимую информацию из своего непосредственного окружения в сети.

Новые искусственные нейроны обучаются независимо и в большей степени основаны на своих биологических аналогах. Команда исследователей из Геттингенского кампусного института динамики биологических сетей (CIDBN) при Геттингенском университете и Института динамики и самоорганизации Макса Планка (MPI-DS) запрограммировала эти инфоморфные нейроны и построила на их основе искусственные нейронные сети. Особенность заключается в том, что отдельные искусственные нейроны обучаются самоорганизующимся образом и извлекают необходимую информацию из своего непосредственного окружения в сети. Результаты были опубликованы в журнале PNAS.

Как человеческий мозг, так и современные искусственные нейронные сети чрезвычайно мощны. На самом низком уровне нейроны работают вместе как довольно простые вычислительные блоки. Искусственная нейронная сеть обычно состоит из нескольких слоев, состоящих из отдельных нейронов. Входной сигнал проходит через эти слои и обрабатывается искусственными нейронами для извлечения соответствующей информации. Однако обычные искусственные нейроны существенно отличаются от своих биологических моделей в том, как они обучаются. В то время как большинство искусственных нейронных сетей для обучения зависят от всеобъемлющей координации за пределами сети, биологические нейроны получают и обрабатывают сигналы только от других нейронов, находящихся в непосредственной близости от них в сети. Биологические нейронные сети по-прежнему намного превосходят искусственные как по гибкости, так и по энергоэффективности.

Новые искусственные нейроны, известные как инфоморфные нейроны, способны к независимому обучению и самоорганизации среди соседних нейронов. Это означает, что самая маленькая ячейка в сети больше не должна управляться извне, а сама должна решать, какие входные данные важны, а какие нет. При разработке инфоморфных нейронов команда вдохновлялась тем, как работает мозг, особенно пирамидальными клетками коры головного мозга. Они также обрабатывают стимулы из различных источников в своем непосредственном окружении и используют их для адаптации и обучения. Новые искусственные нейроны преследуют очень общие, простые для понимания цели обучения: "Теперь мы непосредственно понимаем, что происходит внутри сети и как отдельные искусственные нейроны учатся независимо друг от друга", - подчеркивает Марсель Грец из CIDBN.

Определив цели обучения, исследователи позволили нейронам самим определять свои специфические правила обучения. Команда сосредоточилась на процессе обучения каждого отдельного нейрона. Они применили новую теоретико-информационную меру, чтобы точно определить, должен ли нейрон стремиться к большей избыточности со своими соседями, сотрудничать синергетически или пытаться специализироваться на своей собственной части информации сети. "Специализируясь на определенных аспектах входных данных и координируя свои действия со своими соседями, наши инфоморфные нейроны учатся вносить свой вклад в общую задачу сети", - объясняет Валентин Нойхаус из MPI-DS. С помощью инфоморфных нейронов команда не только разрабатывает новый метод машинного обучения, но и вносит свой вклад в лучшее понимание процессов обучения в мозге.

Источник статьи:

Материалы предоставлены Институтом динамики и самоорганизации Макса Планка.

Ссылки на журналы:

Абдулла Маккех, Марсель Грец, Андреас К. Шнайдер, Дэвид А. Эрлих, Виола Присеманн, Майкл Вибрал. Общая структура для интерпретируемого нейронного обучения, основанная на локальных теоретико-информационных целевых функциях. Труды Национальной академии наук, 2025; 122 (10) DOI: 10.1073/pnas.2408125122

Шнайдер А. С., Нейхаус В., Эрлих Д. А., Маккех А., Эккер А. С., Присеманн В., Вибрал М. К чему должен стремиться нейрон? Проектирование локальных целевых функций на основе теории информации.. Тринадцатая Международная конференция по обучающим представлениям (ICLR), 2025 [аннотация]

https://www.sciencedaily.com/releases/2025/03/250328172944.htm

Источник: www.sciencedaily.com

Комментарии: