Meta открыла Muse Spark с 816B параметров
K@rybolos_channelAI-инженер
1 недMeta представила открытую мультимодальную MoE-модель Muse Spark Open с контекстом 1M токенов, поддержкой кодинга и агентных задач.
Открытая модель рассчитана на сложные задачи с кодом и принимает не только текст, но и изображения, аудио и видео.
- Модель можно дообучать через TorchTitan в PyTorch.
- Для запуска на Apple silicon доступны веса через MLX.
- Хостед-инференс предлагают перечисленные в посте провайдеры.
- Лицензия ограничивает ряд применений и устанавливает условия для продажи инференса.
🌸Muse Spark Open на HuggingFace🌸
#nlp #про_nlp
Смогли сделать самую сильную на сегодня открытую модель из США?
Нативно мультимодальная MoE: 816B параметров всего / 42B активных, контекстное окно 1M токенов. Принимает на вход текст, картинки, аудио и видео.
Модель заточена под кодинг и агентные задачи: чтение и понимание кодовой базы, написание и отладка кода, вызов инструментов, длинные многошаговые сценарии и сложный software engineering.
🌸Так же, как и у Glimmer, есть Reasoning Effort: low, medium, high, or xhigh. Поддержка 100+ языков.
🌸Что с этим делать:
• Дотюнить под свою задачу — через TorchTitan в PyTorch
• Запустить на Apple silicon — через MLX, который тянет веса напрямую с Hugging Face
• Есть MLX-адаптер для запуска на Mac Studio: унифицированная память M5 Ultra даёт до 512 ГБ на машину, так что две Mac Studio держат модель целиком и ведут себя как один суперкомпьютер с терабайтом памяти
Хостед-инференс уже доступен у партнёров: Together AI, Fireworks, Baseten, Modal и OpenRouter.
🟣Лицензия своя, веса открыты для использования, но запрещены — для военных применений / ядерной отрасли / ITAR и оружия, эксплуатация критической инфраструктуры и управление тяжёлой техникой. И если вы провайдер моделей, требуется договор на продажу инференса свыше 20M USD.
Ссылки:
🟣HuggingFace: https://huggingface.co/collections/meta-models/muse-spark-open
🟣Основная модель: https://huggingface.co/meta-models/Muse-Spark-Open-816B-A42B
🟣NVFP4: https://huggingface.co/meta-models/Muse-Spark-Open-816B-A42B-NVFP4
🟣Blog: https://research.meta.ai/blog/muse-spark-open

Кратко (AI)
В посте сообщается о выпуске Muse Spark Open — открытой мультимодальной MoE-модели для кодинга и агентных задач с контекстом в 1M токенов. Указаны варианты дообучения и запуска, доступность хостед-инференса у партнёров и ограничения лицензии.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖