Компьютерная лингвистика, анализ текстов, корпусная лингвистика

Выбор источника и инструментов реализации

Занятие ведёт Юрий Яровиков.

Диск с презентацией и ноутбуками: https://drive.google.com/drive/u/0/folders/1Wxbvzg_wwImBznX6sRkW82zfm3rOez-V

Одномерные сверточные сети для анализа тональности отзывов YELP. Страница курса - https://www.asozykin.ru/courses/nnpython

Ноутбук в Colaboratory с кодом из видео - https://colab.research.google.com/drive/1KWS-4MKKOIG7UhiCA58ZJcxwSLG5F6Wm

Видео "Анализируем отзывы YELP сетью LSTM" - https://youtu.be/a1Q_rzmMECg

Мы уже рассказывали о том, что системы NLP могут применяться в самых разных областях: чат-боты, электронные переводчики, ассистенты редакторов, поисковые системы и многое другое. Одна из таких областей — здоровье и медицина. Прямо сейчас разработчики NLP по всему миру вносят свой вклад в борьбу с коронавирусом.

Курс по нейронным сетям, посвященный задачам обработки естественного языка (продолжение вводного курса о программировании нейросетей).

NLP для людей. Часть 1

Одномерные сверточные нейронные сети для анализа текстов. Страница курса - https://www.asozykin.ru/courses/nnpython

Операция свертки для одномерных данных.

Свертка для анализа текстов.

Свертка для текстов, представленных плотными веторами (embeddings)

Слои подвыборки

На встрече пользователей и разработчиков библиотеки DeepPavlov Михаил Бурцев, поделился итогами 2019 и рассказал о планах исследований на ближайший...

Прямая трансляция первого занятия курса по «Natural Language Processing» или «Обработка естественного языка», который проводит Российский исследовательский институт Huawei (Huawei Russian Research Institute, #RRI).

Математик Варвара Логачева о диалоговых системах, генерации текстов на естественных языках и перспективах машинного перевода

Время прочтения: 4 мин.

Сегодня активно развиваются методы машинного обучения, которые в качестве входных данных используют различные тексты – от комментариев в социальных сетях до официальных документов. Для использования алгоритмов машинного обучения для текста используются алгоритмы NLP (Natural Language Processing).

Мы даже не замечаем, как искусственный интеллект прочно входит в нашу жизнь. Во многих сферах его работа незаметна, но в ближайшем будущем искусственный интеллект может принести фундаментальные изменения везде — не только там, где можно автоматизировать процессы, но и там, где нужен творческий подход и креативность. 

В этом уроке мы будем классифицировать обзоры фильмов как позитивные или негативные, используя текст обзора. Это пример бинарной или двуклассовой классификации, важный и широко применяющийся тип задач машинного обучения.

1. Тренировка моделей машинного обучения на больших объемах данных

2. Детектирование людей в толпе

3. Сonversational AI: как сделать бота, который говорит как человек

4. Имитатор поэта, или как Пушкин писал бы через 200 лет

Пользователи твиттера обратили внимание на нейросеть «Порфирьевич» — алгоритм GPT-2 компании OpenAI. Её обучили на русской прозе, затем для неё написали веб-интерфейс, и теперь любой желающий может получить связный текст на основе нескольких строк.

26 декабря пользователи Твиттера обратили внимание, что некто обучил нейросеть GPT-2 от некоммерческой компании OpenAI, используя русскую прозу, и запустил для неё веб-интерфейс.

Таким образом, каждый теперь может попробовать сгенерировать связный текст на основе заданного вступления.

Нейронные сети для обработки естественного языка

Представление текста в цифровом виде для нейросети

Анализ тональности отзывов на фильмы IMDB

Представление текста вектором One Hot Encoding

Представление текста плотным вектором

Рекуррентные нейросети

Команда Google Brain выпустила алгоритм SummAE AI, который не просто делает выборку предложений заданного текста, а перефразирует фрагмент «своими словами», пишет VentureBeat.

Введение в обработку естественного языка. Лекции от Computer Science Center (осень 2019)

Лекция 1. Введение. Задачи обработки языка в информационном поиске

Лекция 2. Строки, расстояния, регулярные выражения

Лекция 3. Нейронные сети - I

Лекция 4. Языковое моделирование

Продвинутый поток: NLP. Introduction and Word Embeddings

Продвинутый поток: Adversarial attacks. Introduction and ConvNets

Продвинутый поток: NLP. RNN, GRU, LSTM. Фреймворк Visdom

Продвинутый поток: Adversarial attacks. CNN architectures

Продвинутый поток: NLP & Visualization. Заключительное занятие

Технологию могут начать применять во «ВКонтакте» для генерации новостных дайджестов или «умного» сокращения постов в ленте.