Команда популярного фреймворка Unsloth AI выпустила кроссплатформенное приложение Unsloth Desktop, которое позволяет запускать и дообучать AI-модели прямо на локальном оборудовании, без облака. Инструмент работает на Windows, macOS и Linux и поддерживает как языковые, так и диффузионные модели для генерации изображений, аудио и видео.
Приложение ориентировано на широкий спектр железа — от обычных CPU до мульти-GPU сборок NVIDIA, AMD, Intel и Apple, а также умеет подключать популярных AI-агентов к локальным LLM, что важно для разработчиков, которым нужна приватность и контроль над данными без зависимости от облачных провайдеров.
x2ускорение дообучения моделей
70%снижение потребления VRAM
- Поддерживаемые форматы моделей: MLXi, GGUFi, NVFP4
- Приложение может подключать агентов Claude Code, OpenAI Codex, Hermes Agent, OpenClaw и OpenCode к локальным LLM
- Для дообучения (fine-tuning) заявлено ускорение x2 при снижении потребления VRAM на 70%
- Из коробки доступны приватный веб-поиск, RAG и поддержка стандарта MCPi
- Экспорт обученных весов возможен в форматы NVFP4 и GGUF
- Проект полностью открыт: исходный код, установочные файлы под все ОС и готовые ноутбуки для инференса и обучения популярных моделей опубликованы на Github
- Документация доступна на сайте Unsloth
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖