Тезисы докладов Семинара 24/25 октября " Сумма технологий" Санкт- Петербург. 1-й день. Секция 1: Доклад : Малютин Е. Как устроена «память» и «логика» современных систем ИИ?

МЕНЮ


Главная страница

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



Представление знаний — отдельная большая область искусственного интеллекта, которая отвечает на вопросы, как хранить знания, в какой структуре и какими алгоритмами извлекать их и строить рассуждения. От выбора доменной области и построенной математической модели зависит, какие алгоритмы взаимодействия человека со знанием будут развиваться. Ключевые аспекты при построении таких систем — онтология (что хранит знание), логический (какие рамки допустимы внутри системы) и ресурсы (вычислительные мощности).

Исторически сложились два полюса представления знаний — символьное и нейросетевое. Символьное представление даёт явную, детерминированную и хорошо интерпретируемую структуру: факты, правила, отношения, а рассуждение строится как логический вывод и переходы по графам знаний; сильная сторона — прозрачность и верифицируемость, слабая — жёсткая детерминированность, из-за которой возникают проблемы вроде пингвина и летучей мыши (исключения из правила «птица летает»). Нейросетевое представление зародилось в конце 1980-х и развивается по сей день: знание не задаётся правилами явно, а распределяется по весам модели в ходе обучения, что даёт гибкость и способность улавливать неочевидные связи, но ценой потери прозрачности — модель работает как «чёрный ящик». Именно на стыке этих полюсов сегодня строятся гибридные системы, соединяющие верифицируемость символьного подхода с гибкостью нейросетевого.

Первый этап развития — продукционные модели (начало 1960-х): отдельная база знаний плюс машинное правило «если — то», а взаимодействие с машиной строится диалогово. Ограничения — «бутылочное горлышко»: дорогое и долгое извлечение знаний из эксперта, потеря управляемости при росте числа правил, конфликты значений (лексическая омонимия, например «печь»), плохая адаптация к новым случаям.

Следующий этап — логическое представление: знание формализуется средствами математической логики, появляются кванторы и переменные, а резолюции позволяют настроить логический вывод на ограниченном числе фактов. Плюсы — точность и верифицируемость, композиционность и хорошая объяснимость за счёт близости формального языка к естественному; минусы наследуются от продукционных моделей — замкнутые области, шумы и разногласия в данных, слабая интерпретация сенсорных модальностей.

Развитием «мешка фактов» стали графы знаний по схеме «субъект — отношение — объект», где поиск знания выстраивается как переход по графу. Они до сих пор применяются в поисковых системах и рекомендательных системах: первый слой — детерминированный и быстрый, второй — нейросетевой. Ограничения — дороговизна и медленность ручного построения, большие вычислительные затраты на верификацию каждого факта и нерешённая проблема «сырых данных».

С конца 1990-х — середины 2010-х знание стали представлять как векторы в векторном пространстве: семантическая близость считается через скалярное произведение и косинус между векторами. Прорывом стал word2vec и концепция embedding — плотного вектора в непрерывном пространстве, где близкие по смыслу объекты расположены рядом (классический пример: «король» ? «мужчина» + «женщина» ? «королева»). Ограничение — один вектор на одно слово, что обостряет проблему семантической омонимии; её решение связано с архитектурой трансформеров, на которой построены ChatGPT, DeepSeek и другие большие языковые модели (LLM).

В математике это работает через векторы, матрицы (преобразование векторов) и тензоры (переход между смыслами); теория вероятностей применяется как метод максимизации предсказания, а единицей работы выступают токены. Обучение — это расчёт весов, функция потерь измеряет ошибку прогнозирования, градиент корректирует матрицы весов, и модель хранит не факты, а распределения. Отсюда — проблема «чёрного ящика»: эффективность не эквивалентна прозрачности, а галлюцинации объясняются переуплотнением векторов в кластерах, которое пытаются лечить их «раскидыванием».

Современный тренд — гибридные системы: большая языковая модель генерирует ответ, а затем верифицирует его по графу знаний (постобработка). Механизмы рассуждения — Chain of Thoughts («цепочка мыслей») и Tree of Thoughts (несколько цепочек с выбором наиболее релевантной); пример симбиоза — RAG-системы, где поиск релевантных знаний сочетается с генерацией на естественном языке. Так соединяются верифицируемость символьного подхода и способность нейросетей распознавать скрытые состояния и генерировать.

Полный текст доклада будет опубликован в сборнике и будет рассылаться по запросу участникам семинара бесплатно.


Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: