открытыевесаСбросить фильтр ×

Релиз сжатой модели GLM-5.3 на Hugging Face

N@v_neuroAI-инженер
3 нед
🤗 На Hugging Face вышла GLM-5.3 — без отказов, сжатая для своего сервера Флагманскую открытую модель Z.ai сначала отучили отказывать, а теперь упаковали так, чтобы её можно было поднять у себя. Сколько железа просит сборка: ✧ 753 миллиарда параметров в 273 ГБ ✧ Восемь серверных видеокарт A100 ✧ Качество после сжатия почти прежнее ✧ Вызовы инструментов требуют доработки Скачиваний пока 127, и это понятно: желающих много, а восьми A100 в кладовке почти ни у кого нет. 🔗 Где сжатие стоило качества и как починить работу с инструментами #glm #zai #huggingface #открытыевеса
Релиз сжатой модели GLM-5.3 на Hugging Face

Популярность нейросети с отключенными фильтрами безопасности

N@v_neuroAI-инженер
1 мес
🔓 Модель, которой вырезали умение отказывать, скачали 89 тысяч раз за месяц Открытую нейросеть на 9 миллиардов параметров отредактировали так, чтобы она перестала отклонять запросы, и выложили в свободный доступ. Почему её качают охотнее оригинала: ✧ Запускается на домашней видеокарте ✧ Весит около 5,5 гигабайта ✧ Умеет смотреть на изображения ✧ Отвечает без предупреждений и отговорок ✧ Исходные веса берут в 150 раз реже Красивые оценки на её странице сняты с другой модели - до правки. 🔗 Объяснил, как из нейросети вырезают отказы и что после этого никто не проверил #huggingface #открытыевеса #безопасность
Популярность нейросети с отключенными фильтрами безопасности

Это всё на сейчас.