Выход модели GLiNER-2.5 для задач классификации и извлечения данных
A@ai_productAI-инженер
1 месОбзор новой модели GLiNER-2.5, которая превосходит Jev в задачах классификации, маршрутизации тикетов и извлечения сущностей, работая локально.
Появление эффективной альтернативы тяжелым нейросетям для автоматизации обработки текста.
- Позволяет автоматизировать сортировку и анализ входящих сообщений без обращения к дорогим облачным LLM.
- Работает локально на обычном оборудовании, обеспечивая высокую скорость и приватность данных.
- Снижает затраты на инфраструктуру при сохранении высокой точности классификации и извлечения информации.
Ну вот, подходящий конкурент Jev - GLiNER-2.5
Как уже писал выше их NER в GLiNER-2 я выбрал из десятка моделей для поиска и вычищения персональных данных. Это скорее 100% конкурент JEV, более под операционную часть. Передаешь текст и набор меток прямо в вызове – получаешь ответ. Без промпта, без генерации токенов, один проход.
Если по кейсам, то можно прикинуть, что это например:
– интент клиента (возврат, отмена подписки, проблема со входом)
– роутинг тикетов и писем по отделам
– сентимент, включая «mixed», и аспекты отзыва (батарея плохая, экран отличный)
– срочность, severity инцидентов, спам, модерация
– «нужно ли звать человека» и даже «закончил ли агент задачу»
– несколько решений за один вызов: интент + приоритет + нужен ли человек + темы
Можно дать метки с описаниями, если название само по себе неоднозначное, и шкалы типа 0–10 для оценок.
Бенчмарки (свой датасет fast-decisions, 17 доменов, exact match):
– GLiNER2.5-Decide 340M – 60.2%
– GLiNER2.5-Decide 1B – 59.6%
– Jev – 57.6%
– мультиязычная версия 287M – 56.7%
То есть обходит без проблем расхайпленный JEV, при этом работает на CPU, лицензия Apache 2.0, можно поставить на любую табуретку у себя.
Короче, это уже можно в продакшене у себя использовать. Поставить перед LLM: первичная сортировка входящего потока, быстрое принятие решений, извлечение информации, заполнение метаданных, фильтрация. Гонять коммерческую модель еще и с задержкой до провайдера по интернету будет явно дороже и дольше.
https://huggingface.co/fastino/GLiNER2.5-Decide
Кратко (AI)
Представлена модель GLiNER-2.5, предназначенная для эффективного извлечения сущностей и классификации текста без использования генеративных LLM. Модель показывает более высокие результаты на бенчмарках, чем Jev, поддерживает работу на CPU и распространяется под лицензией Apache 2.0, что делает её пригодной для локального продакшена.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖