Память AI-агента

В целом, память для агента — это контекст промта, который передавается в LLM, что помогает агенту лучше планировать и реагировать с учетом прошлых взаимодействий или данных, которые не доступны в данный момент. Тем не менее всю память можно сгруппировать по нескольким типам:

. Эпизодическая - этот тип памяти содержит прошлые взаимодействия и действия, выполненные агентом. После выполнения действия приложение, управляющее агентом, сохранит действие в некотором постоянном хранилище, чтобы его можно было извлечь позже при необходимости. Хорошим примером может служить использование векторной базы данных для хранения семантического значения взаимодействий.

. Семантическая - любая внешняя информация, доступная агенту, и любые знания, которые агент должен иметь о себе. Это могут быть внутренние знания, доступные только агенту.

. Процедурная — это системная информация, такая как структура системного промта, доступные инструменты, защитные механизмы и т. д. Обычно она хранится в реестрах Git, реестрах промта и интрументов

. Иногда приложение-агент извлекает информацию из долговременной памяти и сохраняет ее локально, если это необходимо для выполнения текущей задачи.

. Вся информация, собранная из долговременной или хранящейся в локальной памяти, называется кратковременной или рабочей памятью. Компиляция всего этого через промт передается в LLM и указывает на дальнейшие действия, которые должна выполнить система.

Типы 1, 2, 3, обычно определяются как долговременная память, а тип 5 - как кратковременную память.

Источник: vk.com

Комментарии: