Liquid AI представила модели d1 для принятия решений без генерации текста
M@machinelearning_interviewAI-инженер
2 недLiquid AI выпустила модели d1-3B и d1-omni-600M, оптимизированные для классификации и маршрутизации запросов без генерации текста.
Новый класс моделей позволяет автоматизировать логику приложений быстрее и дешевле, исключая этап генерации текста.
- Модели d1 работают как классификаторы, возвращая выбор или вероятность вместо длинных текстовых ответов.
- Высокая скорость работы (от 8 мс) позволяет использовать их для модерации и маршрутизации в реальном времени.
- Поддержка локального запуска через llama.cpp снижает затраты на API и повышает приватность данных.
⚡ Liquid AI открыла веса двух моделей, которые принимают решения без генерации текста.
d1 получает данные и варианты ответа, затем за один проход возвращает выбор, оценку или вероятность «да». Подходит для маршрутизации запросов, модерации, классификации и проверки действий агентов.
• d1-3B работает с текстом и изображениями.
• d1-omni-600M поддерживает текст с изображениями или аудио. Это экспериментальная модель на 587 млн параметров.
По замерам Liquid AI, d1-3B отвечает на один вопрос за 8 мс на RTX 4090 и 50 мс на Jetson Orin Nano. Длинный контекст увеличивает задержку. Заявлена поддержка локального запуска через llama.cpp.
Практический смысл: для выбора категории или следующего действия больше не обязательно генерировать ответ и разбирать JSON.
https://www.liquid.ai/blog/d1-open
https://huggingface.co/LiquidAI/d1-3B
https://huggingface.co/LiquidAI/d1-omni-600M
Кратко (AI)
Компания Liquid AI открыла веса моделей серии d1, предназначенных для принятия решений, классификации и маршрутизации без необходимости генерации текста. Модели d1-3B и d1-omni-600M показывают высокую скорость работы на локальном оборудовании и поддерживают запуск через llama.cpp.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖