Muse Glimmer: 30B опенсорсная агентная модель от Meta Superintelligence Labs
Н@GreenNeuralRobotsAI-инженер
2 недОбзор Muse Glimmer, 30B агентной модели с открытым кодом, оптимизированной для локального запуска и работы с инструментами.
Появление эффективных локальных моделей для автоматизации задач снижает зависимость от облачных сервисов.
- Возможность запуска сложных агентных систем на потребительском железе без передачи данных в облако.
- Повышение надежности автоматизации за счет встроенных механизмов восстановления при сбоях инструментов.
- Оптимизация для работы с визуальными данными и сложными многошаговыми сценариями.
Muse Glimmer
30B опенсорсная агентная модель от Meta Superintelligence Labs. Дистиллят Muse Spark, заточен под локальных AI-агентов. Работает на компе с одной видеокартой, без облака. Apache 2.0.
• End-to-end агентные задачи: SWE-Bench, DeepSearch QA, MCP-Atlas, τ-Bench
• Надёжный вызов инструментов и функций по схемам в многошаговых сценариях
• Мультимодальный вход - текст + картинки (скриншоты, графики, документы)
• Failure recovery - сама перезапускает упавшие тулзы вместо зависания
• Контролируемое усилие рассуждения - low / medium / high / xhigh
• 100+ языков
Параметры
• 29.6B, контекст 131K+ токенов
• 4-битное квантование - модель сжата до ~17 ГБ, влезает в 24 ГБ VRAM
• DFlash speculative decoding - ускорение ×3.1 на RTX 5090, ×1.8 на M5 Max
• ViT-G/14 энкодер (~1.8B), до 4096 визуальных токенов на картинку
Обещают интеграции с llama.cpp, MLX, ExecuTorch, Ollama, LM Studio, vLLM.
HF
квантизации
Демо
Спасибо @m_franz
#agent #local #gguf #int4
Кратко (AI)
Meta Superintelligence Labs представила Muse Glimmer, 30B агентную модель с открытым исходным кодом, оптимизированную для локального выполнения. Модель поддерживает мультимодальный ввод, работу с инструментами и автоматическое восстановление при ошибках, потребляя около 17 ГБ видеопамяти при 4-битном квантовании.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖