Выпущен Qwen3.8-27B Uncensored в формате GGUF для агентных задач
M@machinelearning_interviewAI-инженер
1 месРелиз uncensored-версии модели Qwen3.8-27B в формате GGUF, оптимизированной для агентного кодинга и кибербезопасности с использованием Importance Matrix.
Эта модель лучше справляется с техническими задачами и написанием кода благодаря специфической калибровке.
- Специальная калибровка повышает точность работы с кодом, путями к файлам и системными командами.
- Модель поддерживает длинный контекст до 262K токенов, что важно для анализа больших репозиториев.
- Формат GGUF позволяет запускать модель на потребительском железе с меньшими затратами VRAM.
🔥 Qwen3.8-27B Uncensored (Cyber/Agentic) теперь доступен в GGUF с калибровкой под реальные агентные задачи
Это не обычная квантизация на случайном английском тексте. Importance Matrix собрана на реальном agentic-coding трафике: tool calls, пути к файлам, shell-команды, JSON, commit hashes и смешанный Chinese/English.
Главное:
- 27B модель в GGUF
- IQ4_XS весит около 15 GiB
- контекст до 262K в протестированной конфигурации
- de-refusal / uncensored версия
- сохранены vision и MTP
- Apache 2.0
- заточена под coding, agents и cybersecurity-сценарии
Авторы отдельно тестировали сохранение точных путей, UUID и commit hashes — критично для агентов, где одна ошибка в символе ломает команду. IQ4_XS при этом оказался всего примерно на 0,42% хуже Q5_K_M по paired perplexity, но заметно компактнее.
Сам GGUF занимает ~15 ГБ, но реальное потребление VRAM зависит от context size, KV cache и offload - полный 262K контекст потребует существенно больше памяти.
https://huggingface.co/cyjin-yl/Qwen3.8-27B-Uncensored-Cyber-agentic-imatrix-GGUF

Кратко (AI)
Вышла uncensored-версия модели Qwen3.8-27B в формате GGUF, специально откалиброванная для агентных задач, написания кода и кибербезопасности. При создании квантизации использовалась матрица важности (Importance Matrix), обученная на реальных данных, что позволило сохранить точность при работе с путями, командами и JSON-структурами.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖