LeNet - первая свёрточная нейросеть для распознавания текста

Немного раритета: видео с демонстрацией LeNet - первой свёрточной нейросети для распознавания текста. Довольный парень на первом видео (1993 год) - её изобретатель, французский учёный Ян Лекун.

Устройство свёрточных сетей обычно сравнивают с работой зрительной системы животных (и человека). В зрительной коре есть специальные нейроны, которые обрабатывают отдельные фрагменты изображения и активируются, если на них есть простые паттерны. Например, одни нейроны реагируют на вертикальные полосы на картинке, а другие - на горизонтальные.

За это открытие Нобелевскую премию по медицине 1981 года получили Дэвид Хьюбел и Торстен Визель. Они исследовали зрительную систему кошки ?

Свёрточный слой нейросети устроен похоже: он пропускает изображение через несколько "фильтров" и определяет, насколько каждый фрагмент изображения похож на разные фильтры. Фильтр - это матрица из чисел, в которой закодирован паттерн: простой типа линии или более сложный (геометрическая фигура, часть тела, сложная текстура).

Свёрточная сеть определяет участки изображения, похожие на эти паттерны. При этом фильтры она также создаёт сама в процессе обучения.

Комментарии: