Тестирование модели Qwen 3.8 27B на RTX 2080
Г@gmorevaAI-инженер
2 днАвтор протестировал работу модели Qwen 3.8 27B в реальных рабочих задачах на видеокарте RTX 2080 с квантованием Q4_K_M.
Показывает доступность запуска мощных нейросетей на устаревшем потребительском железе.
- Модель Qwen 3.8 27B эффективна даже при квантовании Q4_K_M.
- Для запуска современных LLM среднего размера не всегда требуется топовое оборудование.
- Результаты подтверждают возможность использования локальных моделей в реальных рабочих процессах.
Qwen 3.8 на RTX 2080. Рабочий день с реальными задачами
Целый рабочий день гонял Qwen 3.8 27B в реальных агентских и разработческих сценариях — без постановочных задачек, только боевые проекты.
План был такой: начинаем с Q4_K_M на одной 2080 (22 ГБ VRAM), если не справится — поднимаем ставки до Q8.0 на двух 2080, а потом и до FP8 на двух 3090.
Но всё пошло не по плану и все задачи решил первый кандидат: RTX 2080 с Q4_K_M на борту.
Выложил на все площадки ролик с тестами и моим мнением на тему этой крутой модели.
Ссылки на видео на всех площадках:
📹 YouTube | VK | Rutube | Dzen 📹
Кратко (AI)
Автор провел тестирование языковой модели Qwen 3.8 27B в реальных рабочих задачах. Выяснилось, что модель успешно справляется с нагрузкой при квантовании Q4_K_M на одной видеокарте RTX 2080.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖