← к ленте

gpu-unlock повышает производительность RTX 3090 в BF16-тесте на 80%

F@FuturisAI-инженер
3 дн

Проект gpu-unlock ускорил BF16-вычисления на RTX 3090 на 80%, но тесты выявили проблемы со стабильностью драйверов.

Модификация может заметно ускорить некоторые вычисления на старых видеокартах, но пока сопряжена с риском сбоев.

  • В BF16-тесте RTX 3090 показала прирост с 75 до 135 TFLOPS.
  • В отдельных задачах обработка запросов нейросетью ускорилась на 33–36%.
  • Сбои могут привести к тому, что драйвер перестанет видеть видеокарту.
  • Основная версия запускается под Linux без перепрошивки BIOS видеокарты.
Хм, тут взломы с участием нейросетей добрались до железа: старым RTX 30 разблокируют скрытый запас мощности ⬆️ Проект gpu-unlock снимает ограничение скорости некоторых ИИ-вычислений, причём поддержку RTX 3090 Ti дорабатывали с помощью GPT‑6.1 Sol — это прямо указано в отчёте разработчика. Метод уже проверил Kohaku Blueleaf, разработчик ComfyUI и автор LyCORIS: его RTX 3090 показала 75 → 135 TFLOPS, то есть +80% в BF16-тесте при лимите 360 Вт. В других замерах обработка запросов нейросетью ускорилась на 33–36%🤯 Проверка Kohaku. Подвох пока больше в стабильности: были сбои, после которых драйвер переставал видеть видеокарты и приходилось откатывать изменения. При этом в одном тесте RTX 3080 потребление осталось прежним, а температура выросла лишь с 78 до 79 °C. Основная версия работает под Linux без перепрошивки BIOS видеокарты, но уже пробуют и экспериментальный UEFI-порт для Windows. тестируем на свой страх и риск👷 P.S. Разблокировка ускоряет отдельные вычисления, на которых работают нейросети и другие сложные программы. Поэтому в одних ИИ-задачах прирост заметный, в других его (пока что) нет
gpu-unlock повышает производительность RTX 3090 в BF16-тесте на 80%

Кратко (AI)

Проект gpu-unlock снимает ограничение скорости некоторых ИИ-вычислений на видеокартах RTX 30. В тесте RTX 3090 результат в BF16 вырос с 75 до 135 TFLOPS, однако метод пока может вызывать сбои драйверов; основная версия работает под Linux без перепрошивки BIOS.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖