Alibaba представила Qwen3.8-Flash — мультимодальную MoEi-модель, а также открыла веса Qwen3.8-Flash-Next, ранней версии архитектуры, на которой команда строит будущий Qwen4. Модель имеет 125B параметров (из них активируется всего 6B на токен) плюс 51B дополнительных N-gram embeddingsi, повышающих емкость почти без роста вычислений. Обучение обошлось примерно в 9 раз дешевле, чем у Qwen3.7-Plus, а по бенчмаркам модель обходит Qwen3.8-27B и, по разным оценкам, конкурирует с DeepSeek-V4-Flash или превосходит его.
Модель уже доступна и продакшен-версией в QwenCloud, и открытыми весами на HuggingFace (в том числе в GGUF-квантах от Unsloth), поддерживается vLLM и SGLang, появилась на OpenRouter. Благодаря компактному числу активных параметров и оптимизации под unified memory её можно гонять локально на машинах вроде DGX Spark, Mac Studio и Strix Halo с ~128 ГБ памяти.
- Архитектура включает четыре новшества: N-gram Embedding (таблица-lookup по коротким последовательностям токенов вместо матричного умножения), гибридное внимание Gated DeltaNet (GDN) + Qwen Sparse Attention (QSA), Gated Residual connections и оптимизатор Muon вместо Adam
- Нативный контекст — 262K токенов, расширяется до 1M через YaRNi; при 1M-контексте prefill ускорился в 7,6 раза, decode — в 4,9 раза (по данным Data Secrets)
- Бенчмарки: DeepSWE 1.1 — 58.7, SWE-bench Pro — 62.5, CoWorkBench — 73.9, AndroidWorld — 84.5, MathVision — 95.7
- По данным Data Secrets, модель бьёт Claude Opus 4.6 Max на 8 из 9 бенчмарков; по данным Machine learning Interview — обходит его «в ряде тестов»
- Оценки против DeepSeek-V4-Flash расходятся: эйай ньюз пишет, что модель «очень хорошо соревнуется» с ней, Data Secrets утверждает, что она её превосходит
- Продакшен-цены в QwenCloud: $0.16 за 1M входных токенов и $0.47 за 1M выходных токенов
- GGUF-квант от Unsloth занимает около 75 ГБ RAM для локального запуска; 30 августа появился отдельный необрезанный (uncensored) GGUF-квант от Orcarouter
- 3DNews отмечает, что Qwen3.8-Flash задуман как более доступная версия, которая должна помочь Alibaba активнее внедрять флагманскую модель
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖