Needle 3: локальная модель для автоматизации на устройствах

Представлена Needle 3 — компактная модель для вызова функций, извлечения данных и управления устройствами, работающая локально.

Появление эффективных локальных моделей позволяет автоматизировать задачи на устройствах без доступа к облаку.

Позволяет выполнять сложные задачи (вызов функций, извлечение данных) локально на слабых устройствах.
Обеспечивает высокую скорость работы, критичную для real-time автоматизации.
Снижает зависимость от облачных API и повышает приватность данных.

Needle 3 Модель автоматизации для крошечных устройств. Не для чата, а для вызова функций, извлечения структурированных данных и управления устройствами. Один файл весит 8-29 МБ, работает локально • вызов функций - выбирает нужный инструмент и заполняет аргументы из речи • структурированное извлечение - инвойсы, брони, формы в типизированные поля • текстовые эмбеддинги - поиск, матчинг и маршрутизация на устройстве • калиброванный скор уверенности в каждом ответе • до 4000 токенов/сек декодинга на Raspberry Pi 5 После дообучения под свой набор инструментов версии от 4 слоев обходят DeepSeek V4 Flash на DroidCall Гитхаб HF Спасибо @Endorpheen @p0lygon #automation #mobile #driving MAX

Кратко (AI)

Выпущена модель Needle 3, оптимизированная для работы на маломощных устройствах. Она предназначена для вызова функций, извлечения структурированных данных и работы с эмбеддингами, обеспечивая высокую скорость обработки на Raspberry Pi 5.

Needle 3: локальная модель для автоматизации на устройствах

Кратко (AI)

Обсуждение