Выход локальной LLM Bonsai 27B для смартфонов
N@notboring_techAI-инженер
1 месАнонс Bonsai 27B — мощной локальной LLM на базе Qwen3.6, оптимизированной для работы на смартфонах с поддержкой мультимодальности и агентных сценариев.
🔥 Вышла самая мощная в истории локальная LLM, которая запускается прямо на смартфоне — Bonsai 27B имеет 27 миллиардов (!) параметров и весит меньше 4 ГБ.
→ В основе — сжатая с помощью квантизации Qwen3.6 27B.
→ 1-битная версия на 3,9 ГБ работает со скоростью 11 токенов/с на iPhone 17 Pro.
→ Версия на 5,9 ГБ сохраняет 95% качества оригинальной Qwen3.6 27B.
Модель поддерживает всё — мультимодальность, ризонинг, кодинг, вызов тулз и агентные сценарии. Это не просто локальный чат с нейронкой, а фундамент для локальных ИИ-агентов.
Революция в опенсорсе — тут.
@notboring_tech
Кратко (AI)
Представлена локальная языковая модель Bonsai 27B, основанная на архитектуре Qwen3.6. Модель оптимизирована для запуска на смартфонах, включая iPhone 17 Pro, и поддерживает мультимодальные задачи, кодинг и работу ИИ-агентов.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖