Лаборатория Song Han представила инструмент для оптимизации CUDA-кернелов
К@quant_prune_distillAI-инженер
3 недЛаборатория Song Han из MIT выпустила репозиторий с агентом для автоматизации оптимизации кернелов под архитектуры Hopper и Blackwell.
Автоматизация написания низкоуровневого кода для GPU ускоряет разработку высокопроизводительных ИИ-систем.
- Упрощает работу с архитектурами Hopper и Blackwell.
- Позволяет автоматизировать поиск решений для оптимизации CUDA-кернелов.
- Снижает порог входа для разработки эффективного кода под тензорные ядра.
Лаба Song Han (одного из апостолов EfficientDL) из MIT выпустила репозиторий со скиллом для агентов, направленным на оптимизацию кернелов под Hopper и Blackwell.
Репозиторий содержит скрипты для того, чтобы лезть в разные базы знаний, блоги, PR-ы и прочие артефакты про тензорные ядра и Hopper- / Blackwell- архитектуные особенности.
Оно содержит знания про CUDA, CuTe DSL, PTX, Triton. TileLang, cuTile.
За всякие штуки, связанные с параллелизмом на мультихостах оно не шарит, как сразу открещиваются в дисклеймере.
Кратко (AI)
Лаборатория Song Han из MIT представила репозиторий с агентом, предназначенным для оптимизации кернелов под архитектуры NVIDIA Hopper и Blackwell. Инструмент использует данные из различных технических источников для работы с CUDA, CuTe DSL, PTX, Triton, TileLang и cuTile, однако не поддерживает оптимизацию для мультихост-систем.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖