Команда Stage.AI опубликовала блогпост о сжатии edge-моделей Gemma-4i почти в 6,4 раза при умеренной потере качества. Заявленная цель материала — 7-кратное уменьшение размера моделей для работы на устройствах с ограниченными ресурсами.
Ценность работы не в новом методе, а в комбинации: авторы соединили классические и свежие техники сжатия, чтобы найти лучший баланс между размером модели и качеством ответов.
6,4 разафактическая степень сжатия модели
7xзаявленная в заголовке кратность сжатия