Сон полезен не только человеку и животным, но и ИИ: Anthropic научила Claude исправлять ошибки в памяти, используя метод, похожий на человеческий

Anthropic представила результаты экспериментов с новой системой долговременной памяти для искусственных интеллектов серии(ну или "семейства", тоже в целом, верно) Claude. Теперь их ИИ способны на время отдыхать, пересматривать прошлые разговоры и действия, находить ошибки в сохранённой информации и упорядочивать накопленные знания. Процесс получил название "сновидения", хотя это пока это скорее дополнительная обработка данных цифровыми нейронами после сеансов общения с людьми и иных ИИ.

Обычно нейросети работают без устали. И хотя остуствия у них отдыха не вызывает негативных последствий как у нас сонная депривация, но в результате, нынешние ИИ сильно ограничены информацией в текущем диалоге. Со временем данные могут устаревать, противоречить друг другу или накапливаться, провоцируя "ИИ-галлюцинации". Anthropic исследовала возможность возвращаться к записям прошлых сеансов, проверять их по первоначальным данным и оставлять только полезные сведения.

В одном из экспериментов Claude исследовал мир Pokеmon Red, выполняя задания и получая значки. Исследователи сравнили работу двух ИИ: Claude Sonnet 3.7 и Claude Fable 5. Sonnet 3.7 сохранял почти каждое событие, но получил только один значок. Fable 5 сохранял проверенные стратегии и планы, получив четыре значка.

Разница заключалась в подходе к сохранению информации: Sonnet 3.7 записывал всё, что можно было получить из игры, тратя время на обновление устаревших данных. Fable 5 сохранял только важное, не дублируя информацию.

Эксперимент показал, как "цифровые сновидения" исправляют ошибки. "Клоды" ошибочно запомнили расположение центра лечения покемонов и ошибочно считал, что прошёл пещеру. После проверки записей система обнаружила ошибку и исправила её, позволив Claude пройти дальше.

Исследователи проверили, может ли искусственный интеллект превращать архивы документов в базу знаний. Для этого Claude использовал около 350 тысяч файлов компании Stainless. В течение 128 сеансов Claude Opus 5 создавал энциклопедию, улучшая ответы на проверочные вопросы. Сочетание базы знаний и поиска оказалось эффективнее, чем обычный поиск.

Новая система позволяет распределять информацию по важности: ключевые сведения загружаются в память, а менее востребованные остаются в отдельных файлах. Разработчики признают, что дополнительная обработка требует ресурсов, а ошибки могут распространяться на ответы. В некоторых случаях база знаний превышала исходные документы, но не улучшала результаты.

https://www.anthropic.com/research/components-of-agent-memory

Телеграм: t.me/ainewsline

Источник: www.anthropic.com

Комментарии: