Релиз сжатой модели GLM-5.3 на Hugging Face
N@v_neuroAI-инженер
3 нед🤗 На Hugging Face вышла GLM-5.3
— без отказов, сжатая для своего сервера
Флагманскую открытую модель Z.ai сначала отучили отказывать, а теперь упаковали так, чтобы её можно было поднять у себя.
Сколько железа просит сборка:
✧ 753 миллиарда параметров в 273 ГБ
✧ Восемь серверных видеокарт A100
✧ Качество после сжатия почти прежнее
✧ Вызовы инструментов требуют доработки
Скачиваний пока 127, и это понятно: желающих много, а восьми A100 в кладовке почти ни у кого нет.
🔗 Где сжатие стоило качества и как починить работу с инструментами
#glm #zai #huggingface #открытыевеса

