Разблокировка ускорения BF16 на RTX 30

Модуль ядра включает селекторы скорости на GA102 и GA104: на RTX 3090 Ti BF16 в тесте вырос с 87,5 до 157,4 TFLOPS.

Владельцы некоторых RTX 30 могут получить заметно более высокую скорость матричных вычислений, но ценой риска для карты и гарантии.

Метод заявлен для карт на GA102 и GA104.
В указанном тесте BF16 на 3090 Ti вырос с 87,5 до 157,4 TFLOPS.
Нестандартная прошивка может привести к сбоям и потере гарантии.

Разблокировка BF16 на RTX 30 Выяснилось, что на GA102 и GA104 (RTX 3XXX) ускоритель BF16 зарезан не железом, а селекторами скорости. Модуль ядра включает их до загрузки драйвера NVIDIA, и карта начинает считать почти вдвое быстрее Метод вырос из анлокеров карт CMP и работает только на GA102 и GA104. Для Windows есть отдельный репозиторий. Учтите риски: нестандартная прошивка, возможные сбои и потеря гарантии. • 3090 Ti, матричное умножение 8192 в кубе: BF16 с 87,5 до 157,4 TFLOPS • FP16 с 87,5 до 118,4 • TF32 с 42,6 до 82,6 • Ядро под GPL-2.0, готовые пакеты под Arch, Debian и Fedora github.com/Zagitta/gpu-unlock github.com/impacifist/Windows-GPU-UNLOCK github.com/bjrasmussen-jpg/windows_rtx3090_unlock #gpu MAX

Кратко (AI)

Для видеокарт на GA102 и GA104 описан способ включить ускорители BF16, FP16 и TF32 через модуль ядра до загрузки драйвера NVIDIA. В тесте матричного умножения на 3090 Ti производительность BF16 выросла с 87,5 до 157,4 TFLOPS; авторы предупреждают о рисках нестандартной прошивки, сбоев и потери гарантии.

Разблокировка ускорения BF16 на RTX 30

Кратко (AI)

Обсуждение