Выход Unsloth Desktop для локального запуска и дообучения моделей
Н@GreenNeuralRobotsAI-инженер
2 недUnsloth представили десктопное приложение для запуска и дообучения LLM и диффузионных моделей на локальном железе с поддержкой различных форматов и агентов.
Локальный запуск и дообучение нейросетей становятся доступнее для обычных пользователей и разработчиков.
- Позволяет обучать модели на домашнем железе без аренды дорогих облачных мощностей.
- Снижает требования к видеопамяти на 70%, делая работу с нейросетями возможной на менее мощных ПК.
- Обеспечивает приватность данных, так как все вычисления происходят локально, а не на серверах компаний.
Unsloth Desktop
Десктоп приложение от Unsloth для запуска и дообучения моделей на локальном железе, без облака. Windows, macOS, Linux
• Движок оптимизирован под CPU и мульти-GPU связки NVIDIA, AMD, Intel, Apple
• Форматы: MLX, GGUF, NVFP4
• Запуск LLM в форматах MLX и GGUF + диффузионных моделей для генерации картинок, аудио и видео
• Подключение агентов Claude Code, OpenAI Codex, Hermes Agent, OpenClaw, OpenCode к локальным LLM
• Дообучение с ускорением x2 и снижением VRAM на 70%
• Приватный веб-поиск и RAG из коробки
• Поддержка стандарта MCP
• Экспорт весов в NVFP4 и GGUF
Гитхаб
#finetuning #tools
Кратко (AI)
Компания Unsloth выпустила десктопное приложение, позволяющее запускать и дообучать языковые и диффузионные модели на локальных компьютерах под управлением Windows, macOS и Linux. Инструмент поддерживает работу с форматами MLX, GGUF и NVFP4, а также интеграцию с популярными ИИ-агентами и RAG-системами.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖