🤖Не Jev, а FRIDA-Decisions
FRIDA-Decisions: @artyfishl поделился рецептом как в кратчайшие сроки сделали свою decision-модель —
FRIDA Decisions, всего на 0,8B и по качеству сравнимую с оригинальным
Jev на бенчмарках.
Спойлерить не буду, читайте статью, из которой вы узнаете:
• почему роутинг, guardrails и реранкинг не обязательно отдавать LLM
• упаковка: как прогнать текст через модель один раз сразу для всех вариантов ответа и ускорить запрос в разы
• какие результаты показывают модели на razvilka, новом открытом бенчмарке,
• честный разбор скорости и цены, вплоть до рублей за тысячу запросов
• как устроено обучение: один текст, несколько вопросов, своя функция потерь на каждый тип.
💡Полезно тем, кто строит LLM-пайплайны и платит за каждый вызов судьи.
📝
Habr
🎮
Демо
🤗
Модель
🖥
Код
📊
Бенчмарк
📓
Примеры
#jev #ai #frida