DiffusionOPSD: новый метод дистилляции от Bytedance
Н@GreenNeuralRobotsAI-инженер
23 чDiffusionOPSD
Новый метод дистилляции от Bytedance для дообучения диффузионных моделей на их же собственных генерациях: цель для каждого шага обновляется постоянно, под текущее поведение модели, а не задаётся один раз заранее
• собирает запросы прямо из генераций текущей модели
• строит цели с положительным и отрицательным сдвигом внутри контролируемого радиуса
• обновляет поведенческую модель скользящим средним без остановки цикла обучения
Выложили LoRA для Z-Image-Turbo и SD3.5-M
HF
Github
#training #optimization
VK | MAX
