Обзор новых квантованных и специализированных моделей Qwen3.8-Flash-Next и Spark-X2.5

Подборка новых версий моделей Qwen3.8-Flash-Next с квантованием NVFP4, GGUF, снятыми ограничениями и файнтюнами, а также релиз Spark-X2.5 от iFlytek.

Появление новых методов сжатия и оптимизации нейросетей позволяет запускать мощные модели на менее производительном оборудовании.

Квантование NVFP4 и GGUF значительно снижает требования к видеопамяти для работы больших языковых моделей.
Специализированные файнтюны повышают скорость генерации токенов и эффективность работы моделей.
Разработчики получают доступ к инструментам для запуска моделей с длинным контекстом и без встроенных ограничений безопасности.

huggingface.co/nvidia/Qwen3.8-Flash-Next-NVFP4 - NVIDIA NVFP4 квантизация Qwen3.8-Flash-Next: ~2.7x меньше BF16 на Blackwell huggingface.co/Cyronius/Qwen3.8-Flash-Next-131B-A6B-GGUF - GGUF с обрезанной n-gram таблицей (2/16 голов) — 64.8GB вместо 90GB huggingface.co/dealignai/Qwen3.8-Flash-Next-UNCENSORED-FP8 - обесцензуренный Qwen3.8-Flash-Next: отказ убран, MTP и vision сохранены. 94% compliance на HarmBench huggingface.co/Jackrong/Qwopus3.8-27B-Flash-GGUF - файнтюн Qwen3.8-27B для скорости: +12.8% tok/s, MTP принятие 80.7%, меньше разгоняющегося мышления huggingface.co/XHToken/Spark-X2.5-4B-GGUF - Spark-X2.5 от iFlytek: 4B, гибридное внимание, до 1M контекста, 200+ языков. BF16 GGUF #gguf #multimodal #agent #nvfp4 #uncensored VK | MAX

Кратко (AI)

В посте представлен обзор свежих релизов на Hugging Face, включая оптимизированные версии модели Qwen3.8-Flash-Next с использованием квантования NVFP4, GGUF и снятыми цензурными ограничениями. Также упоминается выход модели Spark-X2.5 от компании iFlytek с поддержкой контекста до 1 млн токенов.

Обзор новых квантованных и специализированных моделей Qwen3.8-Flash-Next и Spark-X2.5

Кратко (AI)

Обсуждение