UniVR: Единый подход к визуальным рассуждениям
PadCaptioner: эффективная модель для описания видео
Colibri: инструмент для запуска гигантской GLM-5.2 (744B) на домашнем ПК без видеокарты
Появилась тулза Colibrii, которая позволяет запускать модель GLM-5.2i с 744 миллиардами параметров на обычном домашнем компьютере — без GPU и всего с 21–25 ГБ оперативной памяти. Секрет в том, что модель (370 ГБ на диске) не грузится в RAM целиком: нужные блоки-«эксперты» подгружаются с SSD по мере необходимости и затем освобождаются.
Это не про скорость, а про сам факт возможности — гонять LLM топового масштаба «на картошке». Расплата за это — крайне низкая производительность, единицы или доли токена в секунду.
Pinokio v8: обновление менеджера AI-приложений
Вышла версия v8 популярного инструмента Pinokioi, который упрощает установку и запуск AI-приложений (Comfy, WanGP и другие) без ручной настройки окружения. Новая версия ускорена, получила переработанный интерфейс и функции оркестрации приложений, а также стала полностью открытой для коммерческого использования.
Обновление интересно тем, кто локально запускает генеративные модели и строит из них пайплайны: теперь можно автоматически выстраивать зависимости между приложениями и делиться доступом к запущенным инструментам по сети или через интернет.
Реакция на ограничения в работе нейросетей
Kyutai и MireloAI представили MuScriptor: модель для конвертации аудио в MIDI
Как улучшить качество речи в AI-видео: советы и лайфхаки
Релиз LTX-Video 2.3 22B IC-LoRA: CrossView Prompt v0.9
Авторское право на нейросетевой контент в российской судебной практике
Как измерить «отупение» модели после квантования — вопрос без ответа
Автор канала The ExtremeCode Times поднял проблему: стандартные метрики (perplexityi, MMLUi) показывают лишь небольшую просадку у квантованных моделей по сравнению с оригинальными весами, но это плохо соотносится с реальным ощущением деградации при ручном тестировании. Методика, которая работает для выбора лучшей модели среди нескольких кандидатов (прогнать через бенчмарк и взять максимум баллов), не подходит для оценки, насколько именно «поглупела» модель после квантования.