Looped-DiT: новый подход к генерации изображений от SenseNova

SenseNova представила Looped-DiT — модель генерации изображений, использующую петлевой механизм для увеличения глубины без роста количества параметров.

Новый метод позволяет создавать более качественные нейросети, которые требуют меньше памяти и вычислительных ресурсов.

Позволяет гибко настраивать глубину модели прямо во время работы.
Снижает требования к объему видеопамяти за счет переиспользования весов.
Упрощает развертывание эффективных генеративных моделей на потребительском железе.

Looped-DiT Генератор картинок, трансформер от SenseNova. Заявлен как первый looped-transformer-подход. Одна группа общих блоков прогоняется несколько раз внутри каждого шага денойзинга — модель становится глубже без роста размера. • Генерация изображений из текста • Loop-механизм: общие блоки повторяются, глубина растёт без увеличения параметров • Глубина регулируется на инференсе — другие числа петель работают без дообучения • Deep supervision обучает предсказание после каждой петли • B/32: 512×512, петля из 5 блоков × 4 повтора • Веса ~1 ГБ • Модель меньше и легче за счет общего блока • База — pixel-space MMDiT MiniT2I + FLAN-T5-Large github.com/OpenSenseNova/Looped-DiT huggingface.co/sensenova/Looped-DiT-B32 huggingface.co/sensenova/Looped-DiT-B16 #compact #t2i MAX

Looped-DiT: новый подход к генерации изображений от SenseNova

Кратко (AI)

Компания SenseNova представила Looped-DiT — модель для генерации изображений, использующую архитектуру с повторяющимися блоками. Этот подход позволяет увеличивать глубину модели во время инференса без необходимости дообучения или увеличения общего количества параметров.

Looped-DiT: новый подход к генерации изображений от SenseNova

Кратко (AI)

Обсуждение