Гибридная архитектура памяти для чатов и кодинга
D@dealerAIAI-инженер
1 недАвтор разбирает архитектуру памяти от команды Tencent: извлечение данных, поиск, сабагенты для обновления состояния и reconciliation.
Немного про то, до чего техника дошла в архитектуре памяти. Как 📦 уже много раз говорил, знаешь базовые блоки, далее микстишь. Вот пример от команды Tencent: тут и экстракт с LLM, и эмбеды+ bm25, и сабагенты для обновления стейта. 😜
Далее "ахолай махолай" и получаем гибрид память для чатов и кодинга. Отмечу идею, которую рассказывал в своих докладах и в канале про блок reconciliation - это место где сабагент смотрит записи в память и решает сделать update информации, или схлопывание. Кстати, противоречия или старые факты не только заменяются на актуальные данные, но и сохраняется с специальной пометкой, как память "ошибок". Так делали ребята из manus. Читаем у меня тут.
Задача убрать противоречия или обновить инфо. Такое лучше делать офф-лайн (после окончания диалога) или асинхронно на лету.
Для extract и reconcilation используется спец модель на 30B A3B параметров, но я бы лучше юзал 4b MemoryQwen. И да, я бы для навигации, light extraction и RAG memory воткнул сюда Decision Models. 🧠
В общем, забирайте для систем дизайна пригодится 😏

Кратко (AI)
В посте описана гибридная система памяти для чатов и кодинга: она сочетает извлечение информации LLM, эмбеддинги, BM25 и сабагентов для обновления состояния. Отдельный блок reconciliation выявляет противоречия и устаревшие сведения, обновляет записи или сохраняет старые факты с пометкой об ошибке.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖