Liquid AI открыла веса двух моделей нового типа — d1-3B и d1-omni-600M, которые не генерируют текст, а за один прямой проход выдают готовое решение: выбор варианта, оценку или вероятность «да/нет». Это избавляет от необходимости генерировать ответ и парсить JSON при маршрутизации запросов, модерации контента, классификации и проверке действий AI-агентов.
Обе модели мультимодальны: d1-3B работает с текстом и изображениями, d1-omni-600M — с текстом в сочетании с изображениями или аудио и пока считается экспериментальной. Главное преимущество — экстремально низкая задержка ответа за счёт отсутствия генерации токенов.
8 мсзадержка d1-3B на RTX 4090
50 мсзадержка d1-3B на Jetson Orin Nano
$10 млнпорог выручки для свободной лицензии
- d1-omni-600M имеет 587 млн параметров и поддерживает связку текст+изображение или текст+аудио
- Задержка d1-3B: 8 мс на RTX 4090 и 50 мс на Jetson Orin Nano; длинный контекст увеличивает время отклика
- Архитектура построена на базе LFM2.5-VL-3B (decoder-only); изображения кодирует энкодер SigLIP2 NaFlexi размером 400M, после чего эмбеддинги подаются в спецтокены текстовой модели
- Контекстное окно модели — 32K токенов, словарь — 128K токенов
- Поддерживается локальный запуск через llama.cpp
- Лицензия — LFM Open License v1.0i: условно бесплатное коммерческое использование, пока годовая выручка компании не превышает $10 млн
- Как альтернативу для самостоятельной сборки похожей модели предлагают ModernVBert; для её дотюнинга достаточно игровой видеокарты на 12–16 ГБ VRAM
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖