DiffusionOPSD: новый метод дистилляции от Bytedance
Н@GreenNeuralRobotsAI-инженер
22 чBytedance представили DiffusionOPSD — метод дистилляции для дообучения диффузионных моделей с динамическим обновлением целей на основе текущих генераций.
Новый метод позволяет эффективнее обучать нейросети для генерации изображений.
- Ускоряет процесс дообучения диффузионных моделей.
- Повышает качество генераций за счет динамической адаптации целей обучения.
- Доступны готовые веса для популярных моделей Z-Image-Turbo и SD3.5-M.
DiffusionOPSD
Новый метод дистилляции от Bytedance для дообучения диффузионных моделей на их же собственных генерациях: цель для каждого шага обновляется постоянно, под текущее поведение модели, а не задаётся один раз заранее
• собирает запросы прямо из генераций текущей модели
• строит цели с положительным и отрицательным сдвигом внутри контролируемого радиуса
• обновляет поведенческую модель скользящим средним без остановки цикла обучения
Выложили LoRA для Z-Image-Turbo и SD3.5-M
HF
Github
#training #optimization
VK | MAX
Кратко (AI)
Bytedance представили метод DiffusionOPSD для дистилляции диффузионных моделей. Он позволяет модели обучаться на собственных генерациях, постоянно обновляя целевые показатели в процессе обучения, что повышает эффективность дообучения. Разработчики уже опубликовали LoRA-адаптеры для моделей Z-Image-Turbo и SD3.5-M.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖