Словарный запас: ГЛУБИННОЕ ОБУЧЕНИЕ

Учите английский язык изо всех сил и думаете, что это глубинное обучение? Strelka Magazine выяснил, что это такое, как работает, в каких сферах используется и как правильно — глубинное или глубокое.

ЧТО НАПИСАНО В СЛОВАРЕ

Глубинное обучение — один из методов машинного обучения в области искусственного интеллекта. У него есть сети, способные без присмотра изучать неструктурированные или немаркированные данные. (Investopedia.com)

ЧТО ГОВОРЯТ ЭКСПЕРТЫ

Виктор Лемпицкий — доцент Сколковского института науки и технологий

Глубинное обучение — это класс методов машинного обучения, который обрабатывает входные данные путём последовательного применения к ним большого количества преобразований. Эти преобразования, также называемые слоями, могут быть относительно простыми: например, преобразованием может служить замена всех отрицательных чисел в данных нулями. Последовательность подобных простых преобразований, нейросеть, представляет собой сложную систему обработки данных, обладающую искусственным интеллектом.

Главное отличие глубинного обучения от других методов машинного обучения заключается в том, что параметры всех преобразований-слоёв, от которых зависит поведение нейросети, компьютер подбирает сам, глядя на данные. Для хорошей работы таких обучающих данных должно быть очень много: миллион картинок, про каждую из которых что-то известно, например какие объекты изображены. Обучившись на таком наборе, нейросеть может обрабатывать новые изображения, которые она не видела ранее.

В России говорят и «глубокое обучение», и «глубинное обучение», поскольку deep learning — устоявшийся английский термин и перевести его можно и так и так. Есть аргументы в пользу обеих версий перевода. Вопрос в том, что будет антонимом: если «мелкое обучение» (shallow), то тогда правильно переводить deep как «глубокое». Если же антонимом служит «поверхностное обучение» (surface), то тогда правильно говорить «глубинное обучение». Мне кажется более точным второй вариант с антонимом «поверхностное обучение». Потому что логично противопоставить методы deep learning, достигшие расцвета в этом десятилетии, самым популярным методам прошлого десятилетия.

Методы предыдущего поколения работали похожим образом: к данным применялись последовательности преобразований. Но при этом параметры всех преобразований, кроме последнего, подбирали авторы методов, а выучивались из данных только параметры последнего, «поверхностного» слоя. Обучение в методах нового поколения, где выучиваются параметры всех слоёв-преобразований, тогда логично называть «глубинным».

Глубинное обучение используется почти во всех задачах, связанных с анализом данных, таких как компьютерное зрение, распознавание речи, анализ естественного языка, робототехника, финансовые данные и биоинформатика.

Александр Белоцерковский, технический евангелист Cloud & HPC в Microsoft

При глубоком обучении происходит попытка построить алгоритмы обработки информации внутри различного рода систем искусственного интеллекта. При этом используют уже имеющиеся знания о том, как работает нервная система. Термину много лет, но интерес к нему начал возникать совсем недавно. Этому способствовало развитие вычислительных мощностей, появление облачных платформ и потребность в обработке больших объёмов данных.

Глубокое обучение — термин, который становится концептуально понятным в сравнении. Лучшая иллюстрация, которую я видел, представлена в книге Яна Гудфеллоу.

У наборов алгоритмов машинного обучения, которым является и глубокое обучение, всегда должен быть вход. Например, сообщение по электронной почте. Или человек, как в задаче машинного обучения от Azure Machine Learning, где надо предсказать, сколько выживет пассажиров на «Титанике». Сообщение и человек — это объекты, у которых есть признаки, характеризующие их. У письма — отправитель, получатель, длина; у человека — семейное положение, возраст. Все признаки можно извлечь как есть из массива данных, также можно придумать признаки или взять их из готовых наборов, которыми пользуются в индустрии. Сложность в том, что мы вынуждены либо вручную определять эти признаки, либо вносить изменения по факту, опять же самостоятельно.

Глубокое обучение даёт возможность изучать признаки, находя, структурируя и складывая их в сложные. Модель уходит в более глубокий контекст с более глубокими связями. Это необходимо тогда, когда есть данные и необходимость из этих данных извлечь информации больше и сделать это быстрее, чем может человек. Механизм распознаёт наличие объектов, род их занятия и что вообще происходит на изображении. То же самое с речью. Например, Microsoft Skype переводит речь с русского языка и наоборот. Самостоятельно себя совершенствуя, механизм переводит её в понятный машине формат, распознаёт и после чего синтезирует уже на другом языке.

Ещё одним примером применения глубокого обучения являются Prisma (приложение по обработке фотографий в стиле известных художников. — Прим. ред.) и Artisto (приложение для художественной обработки видео на основе алгоритмов нейронных сетей. — Прим. ред.). В работе с этими приложениями основная задача не столько разработка самого алгоритма и его апробация, сколько его дальнейшая оптимизация.

ПРИМЕРЫ УПОТРЕБЛЕНИЯ

ТАК ГОВОРИТЬ ПРАВИЛЬНО

Глубокие сети позволяют строить многоэтапные алгоритмы обработки информации — это как слоёный пирог, который сам себя готовит. (Журнал «Кот Шрёдингера»)

Источник: aka.ms

Комментарии: