Автор не впечатлился локальными моделями

Ну че, как вам G0VNO в итоге? От себя скажу одно, я чет особо не впечатлился этими вашими локальными модельками, они как по мне абсолютно не годятся для узконаправленных задач. Их максимум это суммаризация данных, либо использование мультимодалок для перевода текста/аудио в текст. Вот вайбкодить на этом, я думаю, никакого удовольствия не будет. Хз как оно с агентами будет работать, это конечно требует больше тестов. Но тут есть НЮАНСИКИ: Во-первых, производительность, даже 100 ток\сек кажутся чудовищно медленными. Во-вторых, сайд эффекты от квантизации лупят мощно по конечному результату. Иногда модели даже жестко игнорят инструкции, и это на маленьком контексте. Под агентов нужен контекст минимум 100к, а на нем эти проблемы могут стать хуже. P.S. Все репорты на бусти залил еще с утра.