Unsloth добавил поддержку квантования для Qwen3.8-flash-next
D@derplearningAI-инженер
2 днНе успел выйти Qwen3.8-flash-next,
Unsloth уже грузит кванты :D
https://huggingface.co/unsloth/Qwen3.8-Flash-Next-GGUF
Unsloth AI выпустила десктоп-приложение Unsloth Desktop для локального запуска и обучения моделей
Команда популярного фреймворка Unsloth AI выпустила кроссплатформенное приложение Unsloth Desktop, которое позволяет запускать и дообучать AI-модели прямо на локальном оборудовании, без облака. Инструмент работает на Windows, macOS и Linux и поддерживает как языковые, так и диффузионные модели для генерации изображений, аудио и видео.
Приложение ориентировано на широкий спектр железа — от обычных CPU до мульти-GPU сборок NVIDIA, AMD, Intel и Apple, а также умеет подключать популярных AI-агентов к локальным LLM, что важно для разработчиков, которым нужна приватность и контроль над данными без зависимости от облачных провайдеров.
x2ускорение дообучения моделей
70%снижение потребления VRAM
Qwen выпустила веса модели-гиганта Qwen3.8-2.4T-A95B на 2,4 трлн параметров
Разработчики Qwen опубликовали на Hugging Facei открытые веса новой модели Qwen3.8-2.4T-A95Bi — с общим числом параметров 2,4 трлн. Это один из крупнейших публично доступных весовых релизов ИИ-модели на сегодня.
Сообщество уже подготовило квантованные GGUFi-версии для локального запуска (через unsloth), хотя большинство пользователей отмечают, что запустить модель такого масштаба у себя просто негде.
2,4 трлнвсего параметров модели
95Bактивных параметров (A95B)
27Bожидаемая меньшая модель
Это всё на сейчас.