Тезисы докладов Семинара 24/25 октября " Сумма технологий" Санкт- Петербург. 1-й день. Секция 1: Доклад : Малютин Е. Как устроена «память» и «логика» современных систем ИИ? |
||
|
МЕНЮ Главная страница ТЕМЫ Новости ИИ Голосовой помощник Разработка ИИГородские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Искусственный интеллект Слежка за людьми Угроза ИИ Атаки на ИИ Внедрение ИИИИ теория Компьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Нейронные сети начинающим Психология ИИ Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Промпты. Генеративные запросы Распознавание лиц Распознавание образов Распознавание речи Творчество ИИ Техническое зрение Чат-боты Авторизация |
2026-11-18 23:29 Представление знаний — отдельная большая область искусственного интеллекта, которая отвечает на вопросы, как хранить знания, в какой структуре и какими алгоритмами извлекать их и строить рассуждения. От выбора доменной области и построенной математической модели зависит, какие алгоритмы взаимодействия человека со знанием будут развиваться. Ключевые аспекты при построении таких систем — онтология (что хранит знание), логический (какие рамки допустимы внутри системы) и ресурсы (вычислительные мощности). Исторически сложились два полюса представления знаний — символьное и нейросетевое. Символьное представление даёт явную, детерминированную и хорошо интерпретируемую структуру: факты, правила, отношения, а рассуждение строится как логический вывод и переходы по графам знаний; сильная сторона — прозрачность и верифицируемость, слабая — жёсткая детерминированность, из-за которой возникают проблемы вроде пингвина и летучей мыши (исключения из правила «птица летает»). Нейросетевое представление зародилось в конце 1980-х и развивается по сей день: знание не задаётся правилами явно, а распределяется по весам модели в ходе обучения, что даёт гибкость и способность улавливать неочевидные связи, но ценой потери прозрачности — модель работает как «чёрный ящик». Именно на стыке этих полюсов сегодня строятся гибридные системы, соединяющие верифицируемость символьного подхода с гибкостью нейросетевого. Первый этап развития — продукционные модели (начало 1960-х): отдельная база знаний плюс машинное правило «если — то», а взаимодействие с машиной строится диалогово. Ограничения — «бутылочное горлышко»: дорогое и долгое извлечение знаний из эксперта, потеря управляемости при росте числа правил, конфликты значений (лексическая омонимия, например «печь»), плохая адаптация к новым случаям. Следующий этап — логическое представление: знание формализуется средствами математической логики, появляются кванторы и переменные, а резолюции позволяют настроить логический вывод на ограниченном числе фактов. Плюсы — точность и верифицируемость, композиционность и хорошая объяснимость за счёт близости формального языка к естественному; минусы наследуются от продукционных моделей — замкнутые области, шумы и разногласия в данных, слабая интерпретация сенсорных модальностей. Развитием «мешка фактов» стали графы знаний по схеме «субъект — отношение — объект», где поиск знания выстраивается как переход по графу. Они до сих пор применяются в поисковых системах и рекомендательных системах: первый слой — детерминированный и быстрый, второй — нейросетевой. Ограничения — дороговизна и медленность ручного построения, большие вычислительные затраты на верификацию каждого факта и нерешённая проблема «сырых данных». С конца 1990-х — середины 2010-х знание стали представлять как векторы в векторном пространстве: семантическая близость считается через скалярное произведение и косинус между векторами. Прорывом стал word2vec и концепция embedding — плотного вектора в непрерывном пространстве, где близкие по смыслу объекты расположены рядом (классический пример: «король» ? «мужчина» + «женщина» ? «королева»). Ограничение — один вектор на одно слово, что обостряет проблему семантической омонимии; её решение связано с архитектурой трансформеров, на которой построены ChatGPT, DeepSeek и другие большие языковые модели (LLM). В математике это работает через векторы, матрицы (преобразование векторов) и тензоры (переход между смыслами); теория вероятностей применяется как метод максимизации предсказания, а единицей работы выступают токены. Обучение — это расчёт весов, функция потерь измеряет ошибку прогнозирования, градиент корректирует матрицы весов, и модель хранит не факты, а распределения. Отсюда — проблема «чёрного ящика»: эффективность не эквивалентна прозрачности, а галлюцинации объясняются переуплотнением векторов в кластерах, которое пытаются лечить их «раскидыванием». Современный тренд — гибридные системы: большая языковая модель генерирует ответ, а затем верифицирует его по графу знаний (постобработка). Механизмы рассуждения — Chain of Thoughts («цепочка мыслей») и Tree of Thoughts (несколько цепочек с выбором наиболее релевантной); пример симбиоза — RAG-системы, где поиск релевантных знаний сочетается с генерацией на естественном языке. Так соединяются верифицируемость символьного подхода и способность нейросетей распознавать скрытые состояния и генерировать. Полный текст доклада будет опубликован в сборнике и будет рассылаться по запросу участникам семинара бесплатно. Телеграм: t.me/ainewsline Источник: vk.com Комментарии: |
|