Сравнение производительности моделей Fable 5 medium и Fable 5 max
DeepSeek представила DSpark: открытый стек для ускорения генерации LLM
Компания DeepSeek выпустила DeepSpec — полностью открытый программный стек для ускорения генерации больших языковых моделей (LLM). Ключевым компонентом стал алгоритм DSpark, который использует метод параллельного драфтинга с динамической настройкой длины черновиков.
Технология позволяет увеличить скорость генерации текста в 1.5–1.85 раза без потери качества. Решение уже внедрено в продакшн-версии моделей DeepSeek-V4 Flash и Pro.
Обзор бенчмарка Senior SWE-Bench
Результаты бенчмарков моделей в Cursor
Китайская модель GLM-5.2: открытый конкурент Claude и GPT
Пекинская компания Zhipu AI (Z.ai) представила открытую языковую модель GLM-5.2, которая демонстрирует производительность на уровне ведущих американских систем при значительно меньшей стоимости. Модель уже заняла лидирующие позиции в рейтингах и стала популярным инструментом для локального запуска.
Релиз рассматривается экспертами как значимый прорыв китайского ИИ-сектора, способный составить конкуренцию закрытым моделям вроде Claude Mythos 5 и GPT-5.5, особенно в задачах по написанию кода и кибербезопасности.
Сбер представил GFusion: экспериментальную диффузионную LLM на базе GigaChat
Команда Сбера выпустила в открытый доступ GFusion — экспериментальную языковую модель, использующую метод диффузии для генерации текста. В отличие от классических авторегрессионных LLM, которые генерируют текст строго последовательно (токен за токеном), GFusion формирует блок текста целиком, постепенно уточняя его содержимое. Такой подход позволяет выполнять параллельные вычисления, что значительно ускоряет процесс генерации.
Модель базируется на архитектуре GigaChat3-10B-A1.8B-base. Согласно результатам тестирования, GFusion работает до 70% быстрее базовой версии GigaChat3-10B-A1.8B и на 39% быстрее версии с использованием MTP-головы. При этом снижение качества ответов относительно авторегрессионных моделей составляет всего 2–4 п.п., а баланс между скоростью и точностью можно регулировать параметрами генерации.
Проект вырос из дипломной работы стажера команды GigaChat Pretrain Даниила Тихонова, который прошел путь от идеи до полноценного релиза и был принят в штат. В открытый доступ на GitVerse и Hugging Face выложены веса моделей (GFusion-10B-A1.8B-base и GFusion-10B-A1.8B), код обучения, оптимизированные CUDA-ядра и реализация поддержки в SGLang. Также реализован алгоритм entropy-bounded sampling для дополнительного ускорения.
Технология диффузионных языковых моделей (dLLM) является актуальным направлением в индустрии, аналогичные разработки (например, Diffusion Gemma) ведутся крупнейшими мировыми технокорпорациями. Внедрение диффузионного режима позволяет не только повысить скорость работы, но и снизить требования к вычислительным мощностям, делая возможным запуск моделей на потребительском железе.