Релиз MiniMax-H3 Pruned Ref-Delta Fused
Н@GreenNeuralRobotsAI-инженер
2 днВыпущена оптимизированная версия модели MiniMax-H3 с объединенными чекпоинтами и сжатием до 20B параметров.
Оптимизация позволяет запускать мощные нейросети на менее производительном оборудовании.
- Размер модели уменьшен с 33B до 20B параметров без потери функциональности.
- Объединение двух версий модели в один файл упрощает работу с чекпоинтами.
- Поддержка INT8 снижает требования к видеопамяти для пользователей ComfyUI.
MiniMax-H3 Pruned Ref-Delta Fused r1024
Облегченная версия #MiniMaxH3, два отдельных чекпоинта склеены в один и сжаты
Обычный H3 существует в двух вариантах: FL2VA и Ref2VA. ~33B параметров
Здесь взяли обрезанную (pruned) версию FL2VA, вычислили разницу между Ref2VA и FL2VA, сжали эту разницу до аккуратного приближения (ранг 1024) и вшили прямо в веса. Получился один файл на ~20B параметров, который умеет и FL2VA, и Ref2VA без переключения чекпоинтов.
+ недавний апдейт - INT8 - еще компактнее
версия для #ComfyUI
Там есть #INT8 и INT8 #ConvRot
#optimization
VK | MAX
Кратко (AI)
Представлена оптимизированная версия модели MiniMax-H3, объединяющая возможности вариантов FL2VA и Ref2VA в одном файле. За счет прунинга и сжатия разницы между весами размер модели сокращен с 33B до 20B параметров, также добавлена поддержка INT8 для дополнительной экономии ресурсов.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖