← к ленте

Оптимизация MiniMax H3 VAE в ComfyUI

М@cgeventAI-инженер
2 нед

Kijai оптимизировал MiniMax H3 VAE в ComfyUI, снизив потребление VRAM и RAM при обработке длинных видео за счет почанковой обработки.

Генерация длинных видео в ComfyUI стала доступнее для видеокарт с небольшим объемом памяти.

  • Снижено потребление VRAM при декодировании видео с 3.49 ГБ до 0.61 ГБ.
  • Потребление оперативной памяти при декодировании сократилось в три раза.
  • Оптимизация позволяет избежать ошибок OOM (Out of Memory) на картах с 12-16 ГБ VRAM.
  • Изменения уже включены в основную ветку ComfyUI и не требуют изменения рабочих процессов.
Для Минимакс и ComfyUI гиков. Kijai оптимизировал MiniMax H3 VAE прямо в core ComfyUI, PR уже смержен. До этого VAE при encode/decode держал в памяти слишком много полных копий видео, из-за чего пик VRAM и RAM рос почти линейно с длительностью ролика. Теперь encode/decode идут чанками, а готовые куски сразу стримятся в выходной буфер. Для длинных видео это особенно важно. На тесте 175 кадров, 1344×768 цифры такие: VAE encode: VRAM peak 5.71 → 2.40 ГБ VAE decode: VRAM peak 3.49 → 0.61 ГБ reserved VRAM на decode: 4.15 → 0.94 ГБ RAM peak на decode: +7.09 → +2.32 ГБ скорость почти не изменилась: encode 40.5 → 40.9 с, decode 14.6 → 13.9 с выход заявлен bitwise identical исходной реализации. Ключевой момент: после этого патча decode VRAM становится практически независимым от длины ролика, потому что ComfyUI больше не собирает целиком весь decoded video в GPU memory. Для 12-16 ГБ карт это может быть разницей между нормальным завершением генерации и OOM именно на финальной стадии VAE. На r/StableDiffusion уже появился отдельный свежий тред с теми же измерениями. Пользователи подтверждают, что это обычное обновление ComfyUI, отдельный VAE или новый workflow не требуется. При этом в комментариях есть предупреждения, что предыдущие обновления H3 ломали некоторые custom nodes, так что Spectrum/прочие патчи лучше тоже держать свежими. https://www.reddit.com/r/StableDiffusion/s/5X5CKZMrii @cgevent

Кратко (AI)

Разработчик Kijai внес изменения в ядро ComfyUI, оптимизировав работу VAE для модели MiniMax H3. Теперь кодирование и декодирование видео происходит чанками, что значительно снижает пиковое потребление видеопамяти и оперативной памяти при работе с длинными роликами, предотвращая ошибки нехватки памяти (OOM).

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖