Hirify Feed — your shortcut to what’s next

Категории · Теги

1 мес

DeepSeek-V4-Pro-0813-nvfp4-DSpark NVIDIA выпустила NVFP4-квант DeepSeek-V4-Pro со спекулятивным декодингом DSpark Сжали DeepSeek-V4-Pro-0813 (1.65T MoE, 49B активных) в NVFP4 и добавили DSpark. Разница с предыдущим NVFP4-релизом: теперь и draft-голова DeepSeek тоже переведена в NVFP4 (была MXFP4), так что один файл работает и как таргет, и как черновик #dspark #nvfp4 VK | MAX

nvidia deepseek nvfp4 dspark квантование llm

ИИ deepseek llm dspark ai opensource inference

DeepSeek представила DSpark: открытый стек для ускорения генерации LLM

AI-редакция

5 источников · показать все· свернуть

Data SecretsDeepSeek представили DSpark: открытый стек для ускорения генерации LLM КПДDSpark: оптимизация параллельного драфтинга для LLM КПДDSpark: оптимизация спекулятивного декодирования в LLM КПДDSpark: оптимизация параллельного драфтинга для LLM КПДАнализ архитектуры модели DSpark и сравнение с Dflash

хайп · 5обновлено 3 мес назад

Компания DeepSeek выпустила DeepSpec — полностью открытый программный стек для ускорения генерации больших языковых моделей (LLM). Ключевым компонентом стал алгоритм DSpark, который использует метод параллельного драфтинга с динамической настройкой длины черновиков.

Технология позволяет увеличить скорость генерации текста в 1.5–1.85 раза без потери качества. Решение уже внедрено в продакшн-версии моделей DeepSeek-V4 Flash и Pro.

60–85%прирост скорости генерации

16–18%превосходство в acceptance length

Полный разбор →

deepseek llm dspark ai opensource inference

Это всё на сейчас.

NVIDIA выпустила NVFP4-квантованную версию DeepSeek-V4-Pro с DSpark

DeepSeek представила DSpark: открытый стек для ускорения генерации LLM