NVIDIA выпустила NVFP4-квантованную версию DeepSeek-V4-Pro с DSpark
Н@GreenNeuralRobotsAI-инженер
1 месNVIDIA представила DeepSeek-V4-Pro-0813 в формате NVFP4 со спекулятивным декодингом DSpark, объединив таргет и черновик в одном файле.
Это обновление ускоряет работу крупных языковых моделей на оборудовании NVIDIA.
- Использование формата NVFP4 снижает требования к памяти и ускоряет инференс.
- Объединение целевой модели и черновой головы в одном файле упрощает развертывание.
- Спекулятивное декодирование DSpark позволяет быстрее генерировать текст без потери качества.
DeepSeek-V4-Pro-0813-nvfp4-DSpark
NVIDIA выпустила NVFP4-квант DeepSeek-V4-Pro со спекулятивным декодингом DSpark
Сжали DeepSeek-V4-Pro-0813 (1.65T MoE, 49B активных) в NVFP4 и добавили DSpark. Разница с предыдущим NVFP4-релизом: теперь и draft-голова DeepSeek тоже переведена в NVFP4 (была MXFP4), так что один файл работает и как таргет, и как черновик
#dspark #nvfp4
VK | MAX
Кратко (AI)
NVIDIA выпустила квантованную версию модели DeepSeek-V4-Pro-0813 в формате NVFP4. Главное нововведение заключается в интеграции спекулятивного декодинга DSpark, где и целевая модель, и черновая голова переведены в единый формат NVFP4, что упрощает использование модели.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖