Релиз сжатой модели GLM-5.3 на Hugging Face
N@v_neuroAI-инженер
3 недНа Hugging Face вышла сжатая версия модели GLM-5.3 от Z.ai, требующая 273 ГБ видеопамяти и восемь GPU A100 для запуска.
Появление мощных открытых моделей позволяет компаниям запускать продвинутый ИИ на собственных серверах без зависимости от облачных API.
- Снижение зависимости от проприетарных облачных ИИ-сервисов.
- Возможность развертывания крупных моделей в закрытом контуре для обеспечения безопасности данных.
- Высокие требования к аппаратному обеспечению ограничивают использование модели крупными организациями.
🤗 На Hugging Face вышла GLM-5.3
— без отказов, сжатая для своего сервера
Флагманскую открытую модель Z.ai сначала отучили отказывать, а теперь упаковали так, чтобы её можно было поднять у себя.
Сколько железа просит сборка:
✧ 753 миллиарда параметров в 273 ГБ
✧ Восемь серверных видеокарт A100
✧ Качество после сжатия почти прежнее
✧ Вызовы инструментов требуют доработки
Скачиваний пока 127, и это понятно: желающих много, а восьми A100 в кладовке почти ни у кого нет.
🔗 Где сжатие стоило качества и как починить работу с инструментами
#glm #zai #huggingface #открытыевеса
Кратко (AI)
На платформе Hugging Face стала доступна сжатая версия модели GLM-5.3 от компании Z.ai. Модель объемом 753 миллиарда параметров требует для работы восемь видеокарт A100 и 273 ГБ памяти, при этом разработчики отмечают необходимость доработки инструментов взаимодействия.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖