Выход локальной модели Qwen3.8-Flash-Next
M@machinelearning_interviewAI-инженер
2 днМодель Qwen3.8-Flash-Next стала доступна в формате GGUF для локального запуска с оптимизацией под CPU RAM и unified memory.
Локальный запуск мощных нейросетей становится доступнее для разработчиков.
- Позволяет запускать тяжелые модели без необходимости в дорогостоящем серверном оборудовании.
- Оптимизация под CPU RAM расширяет возможности использования нейросетей на обычном железе.
- Конкуренция между открытыми и закрытыми моделями усиливается за счет роста производительности локальных решений.
🔥 Qwen3.8-Flash теперь можно запускать локально
125B MoE-модель доступна в GGUF от Unsloth и может работать примерно на 75 ГБ RAM.
Qwen3.8-Flash-Next рассчитана в том числе на CPU RAM и unified memory, позволяя получать скорость, близкую к работе из VRAM.
По заявленным результатам модель обходит Claude Opus 4.6 Max в ряде тестов.
Гайд:
https://unsloth.ai/docs/models/qwen3.8-next
GGUF:
https://huggingface.co/unsloth/Qwen3.8-Flash-Next-GGUF

Кратко (AI)
Модель Qwen3.8-Flash-Next, состоящая из 125 миллиардов параметров, стала доступна для локального запуска в формате GGUF. Благодаря оптимизациям от Unsloth, модель может работать на CPU RAM и unified memory, демонстрируя производительность, сопоставимую с VRAM, и превосходя Claude Opus 4.6 Max в ряде тестов.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖