Компьютерная лингвистика, анализ текстов, корпусная лингвистика

Пока одни модели путаются в многостраничных PDF, новая платформа Qwen-Doc предлагает профессиональный инструментарий для глубокого понимания документов. Это не просто очередной парсер — это исследовательский хаб с открытыми моделями, алгоритмами и данными.

Ключевые возможности:

Quest Research, поддержанная фондом Ubiquant, представила (https://iquestlab.github.io/) 40-миллиардную модель c контекстным окном в 128K токенов, которая, со слов авторов, выбивает 81,4% на SWE-Bench Verified, 49,9% на BigCodeBench и 81,1% на LiveCodeBench v6.

Мы только что выпустили обновление 3.7.3, которое меняет сам принцип работы с текстом в Lexicon Rephraser! Теперь система анализирует не просто отдельные слова, а всю сеть смысловых связей внутри текста.

23 декабря 2025 года в Главном корпусе МПГУ состоялось очередное заседание методологического семинара университета. Тема прошедшего заседания «Система «Антиплагиат» как инструмент выявления ИИ-контента в студенческих работах».

Иточник фото: ru.123rf.com

Модель интересна нестандартным подходом к механизму внимания. Xiaomi использовали гибридную схему, чередующую глобальное внимание и внимание скользящего окна в пропорции 1 к 5.

Само скользящее окно всего 128 токенов, но несмотря на такую компактность, модель получила контекстное окно в 256 тыс. токенов.

Привет, Хабр! Меня зовут Сергей Нотевский, я AI Platform Lead в Битрикс24.

Год назад индустрия жила лозунгом «Scale is all you need», перекладывая его на размер контекстного окна. 32k казались прорывом, 128k - стандартом, а Gemini с 1M+ токенов - убийцей RAG.

Каждый, кто хоть раз всерьёз гонял запросы к LLM, знает, как больно бывает смотреть на счётчик токенов. Ты вроде просто отправляешь список пользователей в JSON, а нейросеть уже съела половину твоего бюджета.

TOON обещает сократить потребление токенов чуть ли не вдвое ?

Целая отрасль замерла в ожидании. Заменит ли LLM программистов? Выпускники школ прямо говорят — зачем поступать на программистов, придёт ИИ, и я останусь без работы. В новостях регулярно сообщается о массовых сокращениях в ИТ компаниях. Работодатели пытаются внедрить ИИ и если не уволить, то снизить зарплаты айтишников.

Как мы воскресили русский NLP и сократили потребление памяти на 90%

Модель хороша тем, что даёт почти уровень больших LLM на длинных контекстах, но при этом заметно экономит память и работает быстрее за счёт линейной архитектуры.

Что улучшили:

- требует до 75% меньше памяти на KV-кэш

- до 6.3? быстрее декодирование на длинных контекстах

Как устроена:

Озон и Вайлдберриз стали массово заполнять фейковые отзывы с ИИ-фотками. Некоторые из них настолько реалистичны, что отличить подделку от настоящего человека почти невозможно. На таких изображениях одежда выглядит безупречно — хотя в реальности может оказаться совсем другой.

Прогресс который мы заслужили

Главная идея - сделать внимание «разреженным» без потери смысла. Вместо того чтобы сравнивать каждый токен со всеми остальными, как в классическом attention, модель Adamas использует только 128 релевантных токенов для каждого запроса. При этом точность остаётся почти такой же, как у полного внимания, а скорость растёт в несколько раз.

Когда вы вводите фразу "Hello world" в ChatGPT или Claude, модель не обрабатывает эти буквы и пробелы так, как вы читаете этот пост прямо сейчас. Вместо этого она преобразует всё в числа посредством процесса, о котором большинство людей даже не задумывается.

ИИ-агенты применяются не только для генерации текста. Создаются разные архитектуры, специализирующиеся на рассуждении, восприятии, действии и абстракции:

1) GPTs - универсальные генераторы текста, отличающиеся беглостью и универсальностью применения

В середине XX века лингвисты думали, что раскрыли код человеческой речи! Сегодня — история обманчивого закона в науке о языке.

Модель Ming-UniAudio — это универсальный фреймворк, сочетающий *понимание речи*, *генерацию* и *редактирование*.

- В её основе лежит единый непрерывный токенизатор речи, интегрирующий семантические и акустические признаки.

Модель лидирует среди моделей до 1 млрд параметров и кодирует запросы в 7 раз быстрее на обычных CPU.

В отличие от декодеров, которые читают текст слева направо и не могут пересматривать ранние токены, ModernVBERT использует двунаправленный текстовый энкодер, обученный на маскировании слов, и небольшой визуальный модуль.

Это избавит текст от канцелярита и уберёт «ненатуральные» слова! Забираем бомбовый промпт и добавляем свой текст в конец:

Перепиши этот текст, сохранив ту же структуру, информацию и объем. Измени только используемый язык.

Этот метод решает главную проблему масштабирования LLM - ограниченность размеченного текста.

RLPT даёт моделям возможность учиться рассуждениям напрямую на данных предобучения, без дорогой ручной разметки.

Как это работает:

Между прочим, уважаемые коллеги, значительная часть текстов, которые вы прочитали в российском интернете за последний год, написана китайской нейросетью DeepSeek, секрет популярности которой среди соотечественников объясняется её бесплатностью и доступом без ВПН и всяких танцев с бубнами.

Исследование, опубликованное в журнале Cell, предлагает свежий взгляд на то, какие признаки действительно лежат в основе диагноза аутизма — и этот взгляд сформирован не врачами, а большой языковой моделью искусственного интеллекта.

И, разумеется, пользуюсь изредка ИИ. Для поиска информации, для того чтобы обработать массивную статью, да и просто так быстрее.

Хотите попробовать свои силы в этичном хакерстве, научить модель машинного обучения, поиграться с веб-скрапингом или просто сделать игру? Он вам в этом поможет.

Примеры проектов:

Этичный хакинг: от создания ARP Spoofer до WiFi-сканера.

Геймдев: Flappy Bird, Tetris или даже Space Invaders — весь код уже есть.

В октябре на конференции Рекламное право РКН озвучили, что с января по октябрь выписано штрафов на 21,3 млн. рублей.

Введение и задача

Учёные и инженеры из Китая обучают большую языковую модель исключительно для секс-роботов, стремясь создать интерактивных компаньонов на базе ИИ.

Эти модели «реагируют как на движения, так и на речь, значительно улучшая пользовательский опыт, фокусируясь на эмоциональной связи».

Большая языковая модель помогла сделать перевод качественнее: с помощью дообучения на нейросети сервис точнее понимает контекст, лучше распознает фразеологизмы и ориентируется в профессиональной лексике.

Выпускница бакалавриата Института интеллектуальной робототехники НГУ Дари Батурова в ходе выполнения выпускной квалификационной работы создала русско-бурятский и русско-монгольский параллельный корпус. 

Аннотация

В данной статье даётся общее описание векторного представления вложений слов - модель word2vec. Также рассматривается пример реализации модели word2vec с использованием библиотеки PyTorch. Приведена реализация как архитектуры skip-gram так и CBOW.

Исходный код