Представлено простейшее электронное устройство размером несколько десятков нанометров, действующее как искусственный нейрон. Его основу составляет слой диоксида ниобия — материала, который при нагревании может переходить в проводящее состояние. Кроме того, этот материал ведёт себя как мемристор — резистор с эффектом памяти. Слои наноэлемента также эмулируют эффективную ёмкость и сопротивление как часть искусственного «нейрона», и схема позволяет воспроизводить сложное поведение биологических нейронов, включая автоколебания, импульсы и переход к хаотической динамике.
Современные системы машинного обучения, использующие нейроморфные вычисления, опираются на упрощённые модели нейронов. При этом из виду упускается главное качество нейронов в реальных биосистемах: возможность сложной кооперативной динамики с пространственной или временной самоорганизацией. Нейроны в живых организмах функционируют на пороге хаоса, то есть система сложна настолько, что способна генерировать нелинейный отклик на воздействие. Это могут быть самоподдерживающиеся колебания (автоколебания), импульсная или хаотическая динамика. Такое разнообразие отклика предполагает достаточную сложность и нелинейность самой системы. Нейронные элементы необходимой сложности можно эмулировать, но для воспроизводства поведения одного такого нейрона необходимо использовать сложные транзисторные схемы. Для прогресса в области разработки аналоговых вычислительных устройств или нейросетей требуется эмуляция нейронных устройств в наномасштабе, то есть в виде неких полупроводниковых элементов размером в десятки нанометров.
Группа из Hewlett Packard Labs ещё в 2017 году представила результаты исследования хаотической динамики, которая может возникать в наноустройствах на основе полупроводника — диоксида ниобия NbO2. Исследователи использовали мемристоры («резисторы с памятью») из тонкого слоя диоксида ниобия и показали, что полупроводниковый «прибор» размером около 100 нм на его основе способен генерировать нелинейный отклик на внешнее воздействие (приложенный постоянный ток). При этом в зависимости от управляющего воздействия такой наноприбор показывает различные виды динамики вплоть до хаотической. Поэтому его в принципе можно использовать и как адекватную модель нейрона. Несколько или множество таких устройств можно собрать в простую нейросеть и решать с её помощью задачи, которые решают обычные нейросети. Так, в той же работе авторы продемонстрировали решение некоторой стандартной задачи оптимизации, объединив свои элементы в простую нейросеть (сеть Хопфилда).
Сложность отклика обеспечивается благодаря тому, что основной материал, то есть слой диоксида ниобия NbO2 с мемристорными свойствами относится к изоляторам Мотта — веществам, которые согласно простейшей теории проводимости должны быть проводниками, но не пропускают ток из-за электростатического отталкивания электронов возле разных атомов решётки. Подробнее о свойствах таких материалов и их значении для современной микроэлектроники мы недавно писали (см. «Спин-орбитальное взаимодействие: новый квантовый механизм контроля проводящих свойств материалов»). Моттовские материалы можно переключать из непроводящего в проводящее состояние при помощи определённых внешних воздействий. У диоксида ниобия такой контролирующий параметр — температура. Поскольку сопротивление в слое нелинейно зависит от температуры, температурные флуктуации на определённом пороге напряжения питания могут многократно усиливаться и приводить к хаотической динамике.
В новой работе, опубликованной в Nature в начале октября 2020 года, исследователи представили наноустройство на основе разработки 2017 года, которое по набору режимов поведения уже может полноценно эмулировать нейрон в биологической системе. В его основе лежит тот же слой диоксида ниобия с мемристорными свойствами, заключённый между слоями нитрида титана TiN. Эта конструкция теперь включена в оболочку из ещё нескольких слоёв материалов толщиной в десятки нанометров, которые вместе составляют цепь из мемристора, обычного сопротивления и ёмкости. Такая система в зависимости от приложенного сигнала может генерировать отклик в виде периодических колебаний, полностью хаотической динамики и коротких импульсов — так, как у биологических нейронов. При подаче постоянного напряжения слой NbO2 нагревается и может перейти в проводящее состояние. Как видно из эквивалентной схемы, при этом через цепь начинает перетекать заряд, накопленный на конденсаторе. Затем слой охлаждается ниже порога фазового перехода и опять становится изолятором, размыкая цепь — таким образом на выходе возникает импульс, который повторяется на следующем цикле. (Это может напомнить работу бойлера, который так же совершает «автоколебания», периодически включаясь по мере остывания в нём воды). А включение последовательного резистора позволяет управлять напряжением на входе как дополнительным параметром.
Авторы создали элемент третьего порядка сложности. В теории динамических цепей под порядком понимается размерность фазового пространства, то есть количество переменных состояния для описания системы. Так, обычный резистор, если его сопротивление не сильно зависит от температуры — элемент нулевого порядка. Хаотическое поведение возможно только в системах с фазовым пространством размерности три и выше, и для математического моделирования сложного поведения нейронов используются соответственно нелинейные уравнения хотя бы с тремя переменными. Теперь в распоряжении экспериментаторов аналоговое наноразмерное устройство, реализующее динамику требуемой сложности.
При помощи этого усовершенствования исследователи смогли промоделировать работу импульсной (спайковой) нейронной сети и сконструировать некоторые логические вентили в версии импульсной сети (действие операторов NAND и NOR), а также построить аналоговую сеть для решения модельной задачи реконструкции вирусных квазивидов (алгоритмически это задача о максимальном разрезе графа).
Пока что говорить о реальных вычислительных приложениях таких устройств нельзя. Одно из существенных ограничений заключается в том, что моттовский переход металл-диэлектрик в диоксиде ниобия происходит при 800?C. Такая температура в этой реализации достигается только в слое NbO2 толщиной 8 нм, и устройство этих размеров оказывается вполне функциональным для экспериментирования, но масштабирование с включением миллионов таких переходов в одной микросхеме станет проблематичным. В других лабораториях исследуют оксид ванадия с температурой перехода Мотта 60?C, однако такая температура, наоборот, слишком низкая — даже действующие дата-центры часто имеют рабочую температуру порядка 100?C. Поэтому основное направление исследований — поиск материалов с более подходящими температурами фазового перехода.
