«Способность» машинного обучения предсказывать будущее хаотических систем

Полвека назад, основоположники теории хаоса обнаружили, что «эффект бабочки» делает невозможным долгосрочное предсказание поведения хаотической системы. Даже минимальное возмущение сложной системы (такой как погода, экономика и т.п.) может запустить цепь событий, которые сделают будущее непредсказуемым. Будучи не в состоянии точно определить текущее состояние таких систем, мы не можем предсказать, как они будут эволюционировать в будущем. Но теперь нам на помощь приходит машинное обучение.

По результатам серии экспериментов, опубликованным в журналах Physical Review Letters и Chaos, ученые использовали машинное обучение (тот же метод, который стоит за последними успехами искусственного интеллекта) для предсказывания будущего — прогнозирования эволюции хаотических систем до отдаленных горизонтов, потрясающих воображение. *Данный подход признается сторонними экспертами в качестве новаторского и, вероятно, скоро станет доступным для широкого применения.

Полученные данные приводятся ветераном теории хаоса Эдвардом Оттом и его четырьмя сотрудниками из Университета штата Мэриленд. Они использовали алгоритм машинного обучения, называемый резервуарными вычислениями, для «изучения» динамики архетипической хаотической системы, называемой уравнением Курамото-Сивашинского. Развивающееся решение этого уравнения ведет себя как фронт пламени, продвигающегося через горючую среду. Уравнение также описывает дрейфовые волны в плазме и другие явления и, по словам Джадидепа Патака, аспиранта Отта и ведущего автора исследований, служит «испытательным стендом для изучения турбулентности и пространственно-временного хаоса».

После обучения на данных «резервуарный вычислитель» исследователей смог точно предсказать, как пламеподобная система будет эволюционировать в течение периода в размере восьми «Времен Ляпунова», проще говоря, в восемь раз дольше, чем позволяли предыдущие методы. «Время Ляпунова» показывает, сколько времени требуется для экспоненциального расхождения двух почти идентичных состояний хаотической системы. Фактически, это время, за которое система приводится к полному хаосу.

«Это действительно очень хорошо», — говорит Хольгер Канц, исследователь теории хаоса в Институте физики сложных систем Макса Планка. То, что удалось спрогнозировать хаотическую систему на период в размере восьми «времен Ляпунова», образно говоря, означает, что использовать машинное обучение почти то же самое, что знать правду.

Алгоритм ничего не знает о самом уравнении Курамото-Сивашинского; он видит только сет данных об эволюционирующем решении уравнения. Это делает машинное обучение особенно эффективным. Во многих случаях уравнения, описывающие хаотическую систему, неизвестны, что препятствует моделированию и прогнозированию такой системы. Результаты исследований группы Отта говорят о том, что уравнения вообще не нужны – нужны только данные. Упомянутый выше Хольгер Кантц: «Предполагается, что в один прекрасный день мы сможем предсказать погоду с помощью алгоритмов машинного обучения, а не с помощью сложных моделей атмосферы».

Кроме прогнозирования погоды, по заверениям экспертов, техника машинного обучения может помочь в мониторинге сердечных аритмий с признаками грядущих сердечных приступов, а также при мониторинге нейронных возбуждений в мозге для обозначения нейронных импульсов. Теоретически это могло бы также помочь в прогнозировании гигантских волн, угрожающих морским судам и, возможно, даже в предсказании землетрясений.

Отт, Патак и их коллеги Брайан Хант, Мишель Гирван и Жисинь Лу (который сейчас в работает в Университете Пенсильвании) достигли своих результатов, объединив ряд существующих инструментов.

Отт и его коллеги использовали локализацию взаимодействий в пространственно расширенных хаотических системах. Локализация означает, что переменные в одном месте зависят от переменных в соседних местах, но не зависят от переменных, расположенных далеко. «Используя это, — объясняет Патак, — мы можем по существу разбить задачу на куски». То есть мы можем использовать один резервуар нейронов, чтобы узнать об одном куске системы, другой резервуар — чтобы узнать о следующем куске и т.д., с небольшим перекрытием соседних доменов для учета их взаимодействий.

Параллелизация позволяет использовать подход, основанный на резервуарных вычислениях, для обработки хаотических систем практически любого размера, если для решения задачи имеются необходимые вычислительные мощности.

Исследователи показывают, что их предсказанное решение уравнения Курамото-Сивашинского точно соответствует истинному решению в течение периода в размере восьми «времен Ляпунова», прежде чем хаос, наконец, побеждает, и фактические и предсказанные состояния системы расходится.

Обычный подход к прогнозированию хаотической системы заключается в том, чтобы как можно точнее измерить ее характеристики в единый момент времени, использовать эти данные для калибровки физической модели, а затем улучшать модель. По приблизительной оценке, для того, чтобы увеличить период предсказания развития хаотической системы в восемь раз, необходимо измерить первоначальные условия типичной системы в 100 000 000 раз точнее.

«Именно поэтому машинное обучение является «очень полезным и мощным подходом», — говорит Ульрих Парлитц из Института динамики и самоорганизации им. Макса Планка, — «Я думаю, что это не только работает на примере, который они рассмотрели, но и является универсальным в некотором смысле и может быть применено ко многим процессам и системам».

После статьи в Physical Review Letters, Отт, Патак, Гирван, Лу и другие сотрудники приблизились к практической реализации их техники прогнозирования. В новых исследованиях, принятых для публикации в Chaos, они показали, что улучшение прогнозов хаотических систем, таких как уравнение Курамото-Сивашинского, становится возможным благодаря гибридизации подхода, основанного на данных, машинного обучения и традиционного прогнозирования на основе моделей. Отт рассматривает это как более вероятный путь для улучшения прогноза погоды и подобных попыток, поскольку мы не всегда имеем полные данные с высоким разрешением или идеальные физические модели. «Мы должны использовать хорошее знание, которое у нас есть там, где оно у нас есть, — говорит он, — и если у нас есть незнание, мы должны использовать машинное обучение, чтобы заполнить пробелы, где это незнание пребывает». Прогнозы на основе резервуарных вычислений могут существенно откалибровать модели; в случае уравнения Курамото-Сивашинского точность прогнозов может быть увеличена до 12 «времен Ляпунова».

Продолжительность «времени Ляпунова» варьируется для разных систем, от миллисекунд до миллионов лет (при предсказании погоды – несколько дней). Чем оно короче, тем более неустойчивой или более склонной к эффекту бабочки будет система.

Уилкинсон и Канц определяют хаос с точки зрения растягивания и складывания, подобно повторному раскатыванию и складыванию теста при изготовлении слоеной выпечки. Каждый кусок теста растягивается горизонтально под скалкой, быстро экспонируя в двух пространственных направлениях. Затем тесто складывают и сплющивают, сжимая соседние пятна в вертикальном направлении. Канц говорит, что погода, лесные пожары, поверхность солнца и все другие хаотические системы действуют именно так. «Чтобы иметь эту экспоненциальную дивергенцию траекторий, нам нужно это растяжение, а для того, чтобы не убежать в бесконечность, нам нужно немного сгибать», складывание происходит из-за нелинейных отношений между переменными в системах.

Именно потому, что резервуарные вычисления настолько хороши при изучении динамики хаотических систем, они пока еще недостаточно понятны, за исключением того, что компьютер настраивает свои собственные формулы в соответствии с входными данными, пока формулы не воспроизведут динамику системы. Техника настолько хорошо работает, что Отт и некоторые другие исследователи из Университета Мэриленда теперь намерены использовать теорию хаоса как способ лучше понять внутренние механизмы нейронных сетей.

Иван Иванов, 2018-05-12 13:15:07
Использовать никак не проверяемые модели вырабатываемые в ходе машинного обучения для прогнозирования не моделируемых систем, это менять шило на мыло в прямом смысле слова.