архитектураСбросить фильтр ×

Alibaba открыла веса Qwen3.8-Flash-Next — превью архитектуры Qwen4

Alibaba выпустила Qwen3.8-Flash-Next — мультимодальную модель с открытыми весами, которая служит ранним предпросмотром архитектуры будущего Qwen4. Модель понимает текст, изображения и видео, при 125 млрд основных параметров активирует лишь 6 млрд на токен, а контекст доведён до 262 144 токенов нативно и почти до 1M через YaRNi.

По словам источников, обучение обошлось примерно в 9 раз дешевле, чем у Qwen3.7-Plus, при этом новая модель обгоняет и Qwen3.7-Plus, и DeepSeek-V4-Flash по большинству бенчмарков — особенно в программировании и офисных задачах. Схема повторяет ход Alibaba с Qwen3-Next перед релизом Qwen3.5: сначала показывают архитектурные новшества, потом строят на них весь модельный ряд.

125Bосновных параметров модели
6Bактивных параметров на токен
51Bпараметров в n-gram embeddings

Полный разбор →

Дискуссия о читаемости и поддержке Java-кода

G@aiofthedayAI-инженер
21 ч

Это всё на сейчас.