← к умной ленте

FRIDA-Decisions: открытая модель для быстрых структурированных решений на русском тексте

Команда Артема Снегирева (УЭСМО) выпустила в открытый доступ FRIDAi-Decisions — дообученную версию энкодера FRIDA для структурированных решений по русскому тексту: выбор одного варианта из K, оценка по шкале, ответ да/нет, ранжирование кандидатов. Модель не генерирует токены — она выдаёт ответ и его уверенность за один проход энкодера, что подходит для роутинга, модерации, определения интентов и отбора документов для RAGi.

Главная особенность: варианты ответа пишутся прямо текстом внутри запроса в виде JSON, поэтому смена набора меток — это новая задача, а не новое обучение модели. Веса и демо уже доступны на HuggingFace, подробности опубликованы на neuraldeep.ru.

823Mпараметров модели
0,893метрика на бенчмарке razvilka
28–34 мсвремя ответа на запрос
  • Модель — дообученный энкодер FRIDA (823M параметров), лицензия MIT, требует 1,8 ГБ видеопамяти
  • На собственном бенчмарке razvilkai (735 задач на русском) метрика 0,893 — на уровне коммерческого API TypeSafe Jev (0,897) и лучший результат среди проверенных открытых моделей
  • Для сравнения: Mapika/decider-2b (1.9B) — 0,833, GLiNER2.5-multi-Decide (287M) — 0,576, laya (multilingual) — 0,559
  • Скорость ответа — 28–34 мс на запрос (замерено на RTX 5060 Ti), примерно в 10 раз быстрее API по независимым замерам
  • Версия int8 ONNX для CPU показывает метрику 0,891 на том же бенчмарке
  • За счёт однократного кодирования текста (все варианты всех вопросов идут в одну последовательность) каталог из 243 интентов разбирается за 0,44 с вместо 4,65 с
  • Доступны готовые демо-сценарии: выбор инструмента для агента, guardrails из восьми правил, роутинг тикетов, ранжирование и разбор тикета, а также примеры кода в Colab и README
Что дальше

Авторы обещают выпустить подробную статью на Хабре; модель уже доступна для внедрения через pip install и готовые примеры в Colab/README.

Здесь появится ссылка, когда это произойдёт.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖