Обзор инструментов для генерации музыки: MuLaCover и DiffSynth-Music
Н@GreenNeuralRobotsAI-инженер
1 месОбзор новых моделей для генерации и редактирования музыки: MuLaCover от HeartMuLa и DiffSynth-Music от DiffSynth-Studio.
Появление специализированных нейросетей для точного управления музыкальной генерацией.
- MuLaCover позволяет создавать каверы, сохраняя структуру текста и заданный стиль.
- DiffSynth-Music дает возможность детально управлять ритмом, вокалом и аккомпанементом.
- Инструменты снижают порог входа для создания качественного аудиоконтента с использованием ИИ.
MuLaCover
Контролируемый генератор каверов и ремиксов от HeartMuLa. Берет референс-музыку, трансформирует под новые слова и стиль - жанр, инструменты, настроение задаются текстовым промптом. Либо работает от MIDI с мелодией и аккордами
• кавер по референсу, тексту и стилю
• генерация с нуля из мелодии и аккордов MIDI
• секции текста с маркерами - Verse, Chorus
• стиль одной строкой: жанр, инструменты, настроение
• 4B параметров
• выход WAV
huggingface.co/HeartMuLa/MuLaCover
github.com/HeartMuLa/MuLaCover
———
DiffSynth-Music от DiffSynth-Studio
Набор моделей контролируемой генерации музыки на базе #ACEStep
Унаследовал #t2m из базы, плюс пять режимов управления через адаптеры Diffusion-Templates
• биты - генерация строго под заданный темп и ритм
• вокал - держит голос, добивает аккомпанемент
• аккомпанемент - держит инструменты, пишет вокал
• просодия - ритм и фразировка каждого слога по входной дорожке
• референс - новый трек в стиле и тембре входного аудио
• 48 кГц на выходе
• длительность до 240 секунд
• низкий VRAM - оффлоад на диск и CPU
huggingface.co/DiffSynth-Studio/DiffSynth-Music
github.com/modelscope/DiffSynth-Studio
#text2music #musicediting #midi2audio
MAX
Кратко (AI)
Представлены два новых инструмента для генерации музыки: MuLaCover от HeartMuLa для создания каверов и ремиксов на основе текста и MIDI, а также DiffSynth-Music от DiffSynth-Studio, предлагающий расширенные возможности управления генерацией через адаптеры.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖