← к ленте

Выпущен Qwen3.8-27B Uncensored в формате GGUF для агентных задач

1 мес

Релиз uncensored-версии модели Qwen3.8-27B в формате GGUF, оптимизированной для агентного кодинга и кибербезопасности с использованием Importance Matrix.

Эта модель лучше справляется с техническими задачами и написанием кода благодаря специфической калибровке.

  • Специальная калибровка повышает точность работы с кодом, путями к файлам и системными командами.
  • Модель поддерживает длинный контекст до 262K токенов, что важно для анализа больших репозиториев.
  • Формат GGUF позволяет запускать модель на потребительском железе с меньшими затратами VRAM.
🔥 Qwen3.8-27B Uncensored (Cyber/Agentic) теперь доступен в GGUF с калибровкой под реальные агентные задачи Это не обычная квантизация на случайном английском тексте. Importance Matrix собрана на реальном agentic-coding трафике: tool calls, пути к файлам, shell-команды, JSON, commit hashes и смешанный Chinese/English. Главное: - 27B модель в GGUF - IQ4_XS весит около 15 GiB - контекст до 262K в протестированной конфигурации - de-refusal / uncensored версия - сохранены vision и MTP - Apache 2.0 - заточена под coding, agents и cybersecurity-сценарии Авторы отдельно тестировали сохранение точных путей, UUID и commit hashes — критично для агентов, где одна ошибка в символе ломает команду. IQ4_XS при этом оказался всего примерно на 0,42% хуже Q5_K_M по paired perplexity, но заметно компактнее. Сам GGUF занимает ~15 ГБ, но реальное потребление VRAM зависит от context size, KV cache и offload - полный 262K контекст потребует существенно больше памяти. https://huggingface.co/cyjin-yl/Qwen3.8-27B-Uncensored-Cyber-agentic-imatrix-GGUF
Выпущен Qwen3.8-27B Uncensored в формате GGUF для агентных задач

Кратко (AI)

Вышла uncensored-версия модели Qwen3.8-27B в формате GGUF, специально откалиброванная для агентных задач, написания кода и кибербезопасности. При создании квантизации использовалась матрица важности (Importance Matrix), обученная на реальных данных, что позволило сохранить точность при работе с путями, командами и JSON-структурами.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖