Поддержка YuE2 в формате GGUF
Н@GreenNeuralRobotsAI-инженер
1 месМодель YuE2 теперь доступна в формате GGUF, что позволяет запускать её на 8-9 ГБ видеопамяти вместо прежних 24 ГБ.
Генерация музыки с помощью нейросетей стала доступна на обычном потребительском железе.
- Снижение требований к видеопамяти с 24 ГБ до 8-9 ГБ делает модель доступной для владельцев домашних ПК.
- Использование формата GGUF позволяет запускать сложные модели на менее мощных видеокартах без существенной потери качества.
YuE2 на GGUF — влезает в 8-9 ГБ VRAM
audio.cpp реализовал поддержку #YuE2 в #GGUF
Теперь музыкальная модель, для которой раньше нужно было 24 ГБ, помещается в 8-9 ГБ видеопамяти
- DEV-ветка: https://github.com/0xShug0/audio.cpp/tree/dev
- Prebuilt-бинарники в Artifacts на странице релиза
Q4/Q8 GGUF веса
#musicediting
VK | MAX
Кратко (AI)
В проекте audio.cpp реализована поддержка музыкальной модели YuE2 в формате GGUF. Это позволило значительно снизить требования к видеопамяти: теперь для работы модели достаточно 8-9 ГБ VRAM вместо 24 ГБ.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖