DeepSeek портировала DeepGEMM на Huawei Ascend
M@ai_machinelearning_big_dataAI-инженер
3 недDeepSeek выпустила DeepGEMM-Ascend, библиотеку матричных ядер для NPU Huawei Ascend 950, достигающую 99,8% теоретической производительности.
Это важный шаг для независимости ИИ-инфраструктуры от западных чипов.
- Показывает возможность достижения высокой эффективности на оборудовании Huawei Ascend.
- Упрощает перенос сложных ИИ-моделей на альтернативные аппаратные платформы.
- Демонстрирует высокую оптимизацию матричных вычислений для архитектуры NPU.
⚡️ DeepSeek перенесла DeepGEMM на Huawei Ascend и выжала из железа 99,8%
DeepSeek выложила DeepGEMM-Ascend, порт своей библиотеки матричных ядер на NPU Huawei Ascend 950. API остался тем же, что у оригинального DeepGEMM, а сами ядра переписаны под особенности Ascend.
Поддерживаются GEMM в FP4, FP8 и BF16, grouped GEMM для MoE, MQA logits и слитые операторы MegaMoE. Плотный GEMM почти упирается в теоретический потолок: FP4 даёт 1701 TFLOPS (98,3% от пика), FP8 861 TFLOPS (99,5%), BF16 431 TFLOPS (99,8%).
Внутри JIT-компиляция, конвейеризация на корутинах и тонкая обёртка над матричными инструкциями Ascend. Нужны CANN 9.20, torch_npu и Python 3.10+. Лицензия MIT.
https://github.com/deepseek-ai/DeepGEMM-Ascend
Кратко (AI)
Компания DeepSeek представила DeepGEMM-Ascend — версию своей библиотеки матричных вычислений, оптимизированную для NPU Huawei Ascend 950. Библиотека поддерживает форматы FP4, FP8 и BF16, обеспечивая производительность, близкую к теоретическому пределу оборудования.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖