← к умной ленте

Сообщество выпустило ускоренные GGUF-кванты и «расцензуренные» версии Qwen3.8-27B, GLM-5.3 и DeepSeek-V4-Flash

В конце августа — начале сентября 2026 года независимые разработчики и энтузиасты одновременно выпустили серию GGUFi-квантизаций флагманских открытых LLM (Qwen3.8-27B, GLM-5.3, DeepSeek-V4-Flash) с технологиями ускорения инференса DFlash2i и DSpark drafter, а также несколько версий этих моделей со снятой цензурой («abliteratedi»/«uncensored»).

Расцензуренные версии позиционируются авторами не для развлечения, а для практических задач: ред-тиминга, кибербезопасности и автономных агентов, которым мешает встроенный механизм отказа отвечать на запросы.

×1.38ускорение DeepSeek-V4-Flash на DGX Spark
$1лимит песочницы AbliterationAI
12/25результат Tiel-Coder-35B-A3B на SWE-bench-Live
  • Qwen3.8-27B-DFlash2-GGUF — GGUF-квант Qwen3.8-27B с ускорением DFlash2; аналогичные версии с DFlash2 выпущены для GLM-5.3 и GLM-5.3-Flash
  • AbliterationAI опубликовала пост «introducing-abliterated-model-large-v2»: у GLM-5.3 изменены веса механизма отклонения запросов; доступна тестовая песочница с лимитом $1
  • Пользователь neko-legends выложил на huggingface GLM-5.3-Flash-Uncensored-EXL3 — версию без цензуры
  • DavidAU выпустил абляцию Qwen3.8-27B под названием Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF
  • bleysg выложил DeepSeek-V4-Flash-DSpark-drafter-GGUF — drafter-модель для спекулятивного декодирования, дающую ускорение ×1.38 на DGX Spark
  • Unsloth выпустили DeepSeek-V4-Flash-Vision-Exp-GGUF в двух квантах: Q8 (162GB) и Q4 (7GB)
  • peculiar-ragdoll перевыпустил переквантованную модель Tiel-Coder-35B-A3B-GGUF (на базе Ornith-1.5) для быстрого агентского кодинга — 12 из 25 задач SWE-bench-Live в 4-bit при размере 22GB

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖