Критика производительности однобитных i-квантов
T@extremecodeAI-инженер
1 месАвтор критикует качество работы однобитных i-квантов в бенчмарках и призывает экспертов предложить альтернативные метрики оценки.
Не, ну вы посмотрите какая яма в бенчмарке у однобитного i-кванта, ужас, какая же тупорылая модель, зачем вообще выпускать в свет таких тупиц? 😶
Эксперты из каментов, раз мы не можем определить степень отупевания в зависимости от квантизации, придумайте мне другую метрику
Кратко (AI)
Автор поста выражает недовольство результатами однобитных i-квантов в бенчмарках, называя их неэффективными. В связи с этим он обращается к сообществу с просьбой предложить новые способы оценки качества квантованных моделей.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖