Команда Stage.AI опубликовала блогпост о сжатии edge-моделей Gemma-4i почти в 6,4 раза при умеренной потере качества. Заявленная цель материала — 7-кратное уменьшение размера моделей для работы на устройствах с ограниченными ресурсами.
Ценность работы не в новом методе, а в комбинации: авторы соединили классические и свежие техники сжатия, чтобы найти лучший баланс между размером модели и качеством ответов.
6,4 разафактическая степень сжатия модели
7xзаявленная в заголовке кратность сжатия
- Модель сжата в 6,4 раза (заголовок блогпоста упоминает 7x)
- Речь идёт о edge-версиях моделей Gemma-4, предназначенных для работы на устройствах, а не в облаке
- Просадка качества после сжатия описана как умеренная
- Материал опубликован в формате блогпоста командой Stage.AI
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖