MemT-1.0-Nano — модель с долговременной памятью
M@machinelearning_interviewAI-инженер
6 днОткрытая модель MemT-1.0-Nano сохраняет информацию из диалога между сессиями и, по данным разработчиков, использует память в 66 раз компактнее полного KV-кэша.
Модель сохраняет память между сессиями, используя заметно меньше места, чем полный KV-кэш.
- Сохранённую память можно восстановить в новой сессии.
- По данным разработчиков, при истории в 128 тысяч токенов состояние памяти занимает примерно в 66 раз меньше места, чем полный KV-кэш.
- Для точного извлечения деталей из длинной истории текстовая память пока показывает лучшие результаты.
MemT-1.0-Nano — открытая ИИ-модель со встроенной долговременной памятью.
Она записывает информацию из диалога во внутреннее состояние и использует её в следующих ответах — без повторной загрузки всей переписки в контекст. Память можно сохранить и восстановить в новой сессии.
— Основа — Qwen3.6-35B-A3B.
— 36 млрд параметров, из них 3 млрд активных.
— При истории в 128 тысяч токенов состояние памяти занимает примерно в 66 раз меньше места, чем полный KV-кэш, по данным разработчиков.
Это подход к созданию ассистентов и агентов, которые используют прошлый опыт без постоянного раздувания контекста. Но в задачах на точное извлечение деталей из длинной истории лучшие системы с текстовой памятью пока впереди.
https://huggingface.co/MemTensor/MemT-1.0-Nano
Кратко (AI)
MemT-1.0-Nano — открытая ИИ-модель на основе Qwen3.6-35B-A3B, которая сохраняет информацию из диалога во внутреннее состояние и может использовать её в новых сессиях. Разработчики утверждают, что при истории в 128 тысяч токенов это состояние занимает примерно в 66 раз меньше места, чем полный KV-кэш; при точном извлечении деталей из длинной истории системы с текстовой памятью пока лучше.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖