Компьютерная лингвистика, анализ текстов, корпусная лингвистика

ChatGPT (Generative Pre-trained Transformer, «генеративный предварительно обученный трансформер») — чат-бот с генеративным искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках.

Большие языковые модели (LLM, Large Language Models) уже стали достаточно популярным инструментом для решения бизнес-задач, однако обучение на довольно общих корпусах, еще и собранных до определенной даты, ограничивает их использование в специфичных предметных областях.

Модель GPT-4 Turbo работает быстрее и знает больше о мировых событиях, а с помощью конструктора можно собирать кастомных чат-ботов.

Подключайтесь к онлайн-лекции по задаче «Уроки настоящего извлечения информации из текста» от Банка ВТБ.

Облако предлагает много возможностей для развития ИИ. С помощью облачных вычислений проще масштабировать ML-модели, повышать точность обучения и предоставлять данные удаленно пользователям. Однако масштабное развертывание ML-моделей требует понимания архитектуры нейронных сетей. 

Привет, Хабр! Представляю вашему вниманию перевод статьи "Visualizing A Neural Machine Translation Model (Mechanics of Seq2seq Models With Attention)" автора Jay Alammar.

Введение

Интернет заполняет контент, созданный с помощью искусственного интеллекта. Это может стать плохой новостью для будущих моделей ИИ. Языковые модели обучаются на основе контента, найденного в интернете. По мере того как AI создает все больше "синтетического" контента, может возникнуть инженерная проблема, известная как "коллапс модели".

Вместе с коллегами из Сколтеха мы разработали новый метод сжатия языковых моделей. В чем суть — сейчас расскажем.

Искусственный интеллект становится все более присутствующим в повседневной жизни. Одна из областей его применения является обработка и понимание естественного языка.

Узнайте в прямом эфире VK Tech Talks · AI Research, зачем и как сближать ресёрч и разработку, когда исследования ведут к новым уникальным решениям и почему ресёрч — отличный старт карьеры в ML.

Доклады от Deep VK будут полезны и специалистам, и новичкам в IT:

Курс Stanford NLP является, пожалуй, одним из лучших курсов по Deep NLP в Интернете. Сейчас в открытом доступе находятся новые лекции 2023 года.

Курс охватывает фундаментальные методы и темы, связанные с глубоким обучением, применяемым в NLP.

В ролевых (да и не только) всем нам хотелось бы улучшить качество написания своей работы, потому без лишних вступлений, сразу к делу! Мы подготовили для Вас несколько интересных сервисов, что смогут помочь Вам в редактировании/анализе Вашего текста.

Оглавление цикла:

Часть первая

Часть вторая (вы тут)

Это вторая статья из цикла. В первой части я рассказывал про самые базовые понятия Elasticsearch. В этом же посте разберем устройство анализа текста и немного пощупаем полнотекстовый поиск.

Несколько слов про анализ текста

Сегодня большие языковые модели и чат-боты на базе LLM, такие как ChatGPT и GPT-4, хорошо интегрировались в нашу повседневную жизнь.

Добрый день, коллеги. Мы уже живем в будущем! Искусственный интеллект активно развивается и не перестает удивлять. Если среди нас есть те, кто еще ему не доверяет или даже побаивается, не переживайте! Сегодня ИИ в руках умелого преподавателя - это огненная комбинация для эффективного современного обучения ?

Просто добавляйте по одному слову...

Роботы-словотворцы

Создатели чат-бота ChatGPT представили GPT-4. Новое поколение языковой модели может обрабатывать не только текст, но и картинки. Нейросеть стала умнее, креативнее и надёжнее.

На презентации также показали пару примеров использования GPT-4:

OpenAI представила новую модель ИИ интерпретации изображений и текста GPT-4, которую компания назвала «последней вехой в своих усилиях по расширению масштабов глубокого обучения».

Настоящий или ложный текст? Поговорим о ChatGPT и не только

К моему удивлению, в открытом доступе оказалось не так уж много подробных и понятных объяснений того как работает модель GPT от OpenAI. Поэтому я решил всё взять в свои руки и написать этот туториал, в котором разобраны следующие темы:

Откуда взялась GPT и какую задачу она решает

Токенизация текста

Привет!

В двух словах: этот бот позволяет генерировать продолжение к заданному тексту при помощи различных нейросетей. Чтобы начать использование, можете просто отправить ему любое сообщение:

Благодаря 540 миллиардам вложенных в языковую модель PaLM параметрам, нейросеть способна выстраивать многосложные языковые конструкции, зависящие от контекста, в том числе и объяснение смысла шуток, например:

Привет! Чем еще заняться на каникулах любителю Data Scienсe как не анализом тональности комментариев под новогодними обращениями?! На эту мысль меня натолкнули алгоритмы YouTube, выдавшие к просмотру первого января 2022 года два видео, с очень разными по эмоциональной окраске комментариями.

«Мы сможем знать о человеке всё, куда бы он ни пошёл», заявила MT-NLG.

Профессора Оксфордского университета провели социально-технологический эксперимент, организовав дискуссию на тему искусственного интеллекта между студентами и системой машинного обучения.