Tencent представила open-source модель Hy4-preview

Tencent выпустила Hy4-preview, open-source модель на 770B параметров с архитектурой MoE, поддержкой контекста 1 млн токенов и лицензией Apache 2.0.

Появление мощной открытой модели от крупного игрока расширяет возможности для разработчиков и бизнеса.

Модель доступна по лицензии Apache 2.0, что позволяет использовать её в коммерческих проектах.
Архитектура MoE с 49B активных параметров обеспечивает высокую производительность при оптимизированных затратах на вычисления.
Поддержка контекста в 1 млн токенов позволяет обрабатывать большие объемы данных, такие как кодовые базы или длинные документы.

🚀 Tencent показали Hy4-preview - новую open-source модель на 770B параметров Архитектура MoE: - 770B параметров всего - 49B активны на токен - контекст до 1 млн токенов - упор на coding, agentic-задачи и продуктивность Использует Gated DeepSeek Sparse Attention + IndexCache, чтобы удешевить длинный контекст и переиспользовать sparse-индексы между слоями. Tencent позиционирует Hy4 как frontier-level open model с доступной стоимостью запуска. Apache 2.0 🟡 Блог: https://hy.tencent.ai/research/hy4-preview 🟡Hugging Face: https://huggingface.co/tencent/Hy4-preview 🟡GitHub: https://github.com/Tencent-Hunyuan/Hy4-preview @ai_machinelearning_big_data #Tencent

Tencent представила open-source модель Hy4-preview

Кратко (AI)

Компания Tencent представила новую open-source модель Hy4-preview с 770 миллиардами параметров. Модель использует архитектуру MoE, поддерживает контекст до 1 миллиона токенов и оптимизирована для задач программирования и работы агентов.

Tencent представила open-source модель Hy4-preview

Кратко (AI)

Обсуждение