← к умной ленте

MemTensor представила открытые модели MemT-1.0 со встроенной памятью

MemTensor выпустила семейство открытых моделей MemT-1.0, которые сохраняют сведения из диалога во внутреннем состоянии и используют их в следующих ответах, вместо того чтобы каждый раз передавать всю переписку в контекст. Состояние можно сохранить в файл и восстановить в новой сессии — это позволяет агентам использовать прошлый опыт без постоянного увеличения контекста.

В семейство входят Nano на базе Qwen3.6-35B-A3B и Flash на базе DeepSeek-V4-Flash. По данным разработчиков, на истории в 128 тысяч токенов состояние памяти примерно в 66 раз меньше полного KV-кэшiа; при этом системы с текстовой памятью пока лучше справляются с точным поиском деталей в длинной истории.

66 разменьше полного KV-кэша
1,86 разаускорение на истории 128K
11бенчмарков памяти
  • Память вынесена в отдельный блок рядом с механизмом внимания и меняется по ходу общения.
  • Nano содержит 36 млрд параметров, из них 3 млрд активных; Flash — 288 млрд параметров, из них 17 млрд активных.
  • Разработчики заявляют об ускорении в 1,86 раза на истории длиной 128K.
  • В тестировании по 11 бенчмаркам памяти Flash заняла первое место, а Nano — второе среди методов с параметрической памятьюi.
  • В репозитории MemT-1.0 описан подход Mixture-of-Storagei для увеличения объёма памяти без роста стоимости.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖