Сегодня (14 июня) исполняется 170-летие со дня рождения АНДРЕЯ МАРКОВА, основателя Marcov Chain

Андрей Андреевич Марков (1856–1922) был российским математиком, известным своей работой в теории вероятностей. Он был членом Санкт-Петербургской школы математики и изначально сосредоточился на анализе, но позже переключился на вероятностные исследования, где сделал свои наиболее значимые достижения.

Что такое марковские цепи?

В 1906 году Марков предложил новый способ анализа последовательностей событий, которые не являются независимыми, но при этом следующее состояние зависит только от текущего состояния, а не от последовательности событий, предшествовавших ему. Эта концепция лежит в основе того, что сейчас называют марковской цепью.

Определение:

Цепочка Маркова — это математическая система, которая проходит переходы из одного состояния в другое в пространстве состояний, при этом вероятность следующего состояния зависит только от текущего состояния (это свойство Маркова).

Почему она была революционной?

До Маркова большинство вероятностных моделей считались независимыми от событий (например, подбрасывания монеты или бросков кубиков). Новшество Маркова заключалось в моделировании зависимости, но структурированным и математически управляемым способом.

Он, например, показал, как можно моделировать последовательности букв в русских текстах с помощью этого подхода. Это раннее применение предвосхищало использование марковских моделей в обработке естественного языка, распознавании речи и геномике.

Наследие и влияние

* Марковские цепи стали фундаментальными в:

* Статистическая механика (например, моделирование случайных прогулок)

* Экономика (например, моделирование переходов на рынке)

* Генетика (например, скрытые марковские модели в секвенировании ДНК)

* Машинное обучение (например, обучение с подкреплением, байесовские модели)

Поисковые системы (например, PageRank Google основан на процессах Маркова)

Скрытые марковские модели (HMM)

Прямым наследником идеи Маркова является скрытая марковская модель (HMM), где состояния системы не являются напрямую видимыми, но их выходные данные видны. ГММ широко используются в искусственном интеллекте, распознавании речи и биоинформатике.

https://en.wikipedia.org/wiki/Markov_chain

Российский математик Андрей Марков доказал в 1906 году, что не нужно знать, откуда что-то взялось, чтобы предсказать, куда оно пойдёт дальше.

В то время он изучал поэзию. В частности, он анализировал последовательность гласных и согласных в романе Пушкина в стихах, пересчитывая переходы вручную между тысячами иероглифов, ища закономерность в том, как одна буква предсказывает следующую.

То, что он обнаружил, стало одной из самых тихо мощных идей во всей математике. И он лежал внутри каждого прогноза погоды, каждого поиска в Google, каждой рекомендации Netflix и каждой большой языковой модели, когда-либо созданных, ожидая, когда кто-то объяснит это простым языком.

Вот концепция, которая изменила моё отношение к прогнозированию.

Большинство людей предполагают, что для предсказания чего-то нужна история. Полная картина. Всё, что привело к этому моменту. Если вы хотите узнать, что будет делать фондовый рынок завтра, вы считаете, что нужно понять всё, что он делал за последнее десятилетие.

Марков показал, что это почти никогда не бывает правдой.

Его мнение было следующим: для огромного класса реальных систем текущее состояние содержит всю необходимую информацию для предсказания следующего состояния. Прошлое уже запечатлено в том, где ты сейчас находишься. Не обязательно продвигать это явно, потому что оно уже есть.

Он назвал это свойством Маркова. А системы, которые он описывает, называются марковскими цепями.

Механика проще, чем кажется.

Представьте, что вы отслеживаете погоду. В любой день либо солнечно, либо дождливо. На протяжении многих лет наблюдается, что когда солнечно, есть 90% вероятность, что завтра тоже будет солнечно, и 10% — дождливо. Когда дождь, есть 50% шанс, что солнце останется дождливым, и 50%, что солнце вернётся.

Эти четыре числа — вся ваша модель. Эта сетка вероятностей переходов называется марковской цепью.

Теперь кто-то спрашивает: сегодня Санни, какова вероятность, что через три дня это будет Санни?

Интуиция не нужна. Вам не нужна экспертиза. Вы умножаете вероятности перехода на каждый шаг, и ответ выпадает точно. Цепочка думает.

То, что большинство людей упускает, — это то, что происходит, если достаточно долго запускать цепочку Markov.

Почти каждая хорошо воспитанная цепочка Маркова сходится к тому, что математики называют стационарным распределением. Неважно, с чего начать. После достаточного количества шагов система устанавливает стабильный шаблон вероятностей, к которому возвращается снова и снова, независимо от начальных условий.

Оригинальный алгоритм Google PageRank был цепочкой Маркова. Веб — это сеть страниц, указывающих друг на друга, и случайный посетитель, нажимающий по ссылкам, — это случайный прогул по этой сети. Стационарное распределение этой прогулки, то есть долгосрочная вероятность попадания на любую страницу, — именно то, что вычислил PageRank. Ваше положение в результатах поиска определялось тем, где случайный серфер без памяти проводил большую часть времени.

Та же математика лежит в основе того, как клавиатура вашего телефона предсказывает ваше следующее слово. Как Spotify решает, какая песня звучит после этой. Как эпидемиологи моделируют распространение болезни в популяции. Как экономисты моделируют, как люди перемещаются между работой и безработицей. Как физики описывают изменения энергетических состояний частиц.

Всё это одна и та же идея, только в разной одежде.

Контринтуитивная сила цепочек Маркова в том, что они ошибаются в отношении памяти, что оказывается полезным.

Реальные системы действительно имеют память. На завтрашнюю погоду влияет не только сегодняшняя погода. Ваше следующее слово зависит не только от последнего. Предположение Маркова технически ошибочно для почти всех природных систем.

И всё же. Это приближение достаточно хорошее, чтобы быть чрезвычайно полезным, поскольку большая часть предсказательной информации в последовательности сосредоточена в самом свежем состоянии. Добавление старой истории приносит уменьшающуюся отдачу. В какой-то момент вы носите с собой всю эту дорогую историю практически без улучшения точности.

Марковские цепи — это математическая формализация глубоко практической идеи: часто можно предсказать будущее с удивительной точностью, просто внимательно следя за настоящим моментом.

Человек, который это обнаружил, изучал слоги в поэзии. Он не имел ни малейшего представления, что описывает архитектуру интернета, логику машинного обучения и статистический каркас под самыми мощными системами ИИ, когда-либо созданными.

Он просто следовал по схеме, куда она вела.

Обычно так работают самые большие идеи.

Телеграм: t.me/ainewsline

Источник: en.wikipedia.org

Комментарии: