HardenedVault выпустила SonicBoom — среду исполнения для локального запуска языковых моделей на потребительских процессорах и видеокартах. Движок написан на C++ и CUDA, не требует Python ни для работы, ни для сборки и предоставляет локальный сервер с API OpenAI.

В первых тестах на RTX 3050 SonicBoom быстрее llama.cpp на двух моделях при коротком контексте, но преимущество почти исчезает на глубине 512 токенов. Сторонний замер на RTX 4060 Ti показал результат ниже llama.cpp; сборка не была настроена под эту видеокарту.

Полный разбор →

В середине августа 2026 года китайская Z.ai выпустила GLM-5.3 — по её собственному описанию, «самую способную» модель компании для агентного программирования (agentic codingi) и киберзащиты. Это дообученная версия GLM-5.2 с 743 млрд параметров. Спустя пару недель, после оценки безопасности, компания опубликовала веса модели на HuggingFace — это полноценный релиз весов, а не просто доступ по API, так что модель можно скачивать, запускать локально и дообучать под свои задачи.

Однако, в отличие от предыдущих релизов, Z.ai отказалась от свободной лицензии MIT: теперь сервисы с годовой выручкой выше $10 млрд обязаны проходить проверку безопасности у Z.ai перед использованием GLM-5.3. Это отмечают как признак того, что китайский открытый ИИ начинает «закрываться».

Полный разбор →

Alibaba представила Qwen3.8-Flash — мультимодальную MoEi-модель, а также открыла веса Qwen3.8-Flash-Next, ранней версии архитектуры, на которой команда строит будущий Qwen4. Модель имеет 125B параметров (из них активируется всего 6B на токен) плюс 51B дополнительных N-gram embeddingsi, повышающих емкость почти без роста вычислений. Обучение обошлось примерно в 9 раз дешевле, чем у Qwen3.7-Plus, а по бенчмаркам модель обходит Qwen3.8-27B и, по разным оценкам, конкурирует с DeepSeek-V4-Flash или превосходит его.

Модель уже доступна и продакшен-версией в QwenCloud, и открытыми весами на HuggingFace (в том числе в GGUF-квантах от Unsloth), поддерживается vLLM и SGLang, появилась на OpenRouter. Благодаря компактному числу активных параметров и оптимизации под unified memory её можно гонять локально на машинах вроде DGX Spark, Mac Studio и Strix Halo с ~128 ГБ памяти.

Полный разбор →

Разработчики Qwen опубликовали на Hugging Facei открытые веса новой модели Qwen3.8-2.4T-A95Bi — с общим числом параметров 2,4 трлн. Это один из крупнейших публично доступных весовых релизов ИИ-модели на сегодня.

Сообщество уже подготовило квантованные GGUFi-версии для локального запуска (через unsloth), хотя большинство пользователей отмечают, что запустить модель такого масштаба у себя просто негде.

Полный разбор →

В открытом доступе появился постоянно обновляемый репозиторий awesome-minimax-H3 на GitHub — единая точка сбора всех материалов по модели MiniMax H3i. Ресурс собирает веса моделей, LoRAi, квантизации, VAEi, текстовые энкодеры, кастомные ноды для ComfyUI, а также гайды и туториалы, освобождая пользователей от необходимости искать разрозненные материалы по разным каналам.

Полный разбор →