← к ленте

Выход модели GLiNER-2.5 для задач классификации и извлечения данных

A@ai_productAI-инженер
1 мес

Обзор новой модели GLiNER-2.5, которая превосходит Jev в задачах классификации, маршрутизации тикетов и извлечения сущностей, работая локально.

Появление эффективной альтернативы тяжелым нейросетям для автоматизации обработки текста.

  • Позволяет автоматизировать сортировку и анализ входящих сообщений без обращения к дорогим облачным LLM.
  • Работает локально на обычном оборудовании, обеспечивая высокую скорость и приватность данных.
  • Снижает затраты на инфраструктуру при сохранении высокой точности классификации и извлечения информации.
Ну вот, подходящий конкурент Jev - GLiNER-2.5 Как уже писал выше их NER в GLiNER-2 я выбрал из десятка моделей для поиска и вычищения персональных данных. Это скорее 100% конкурент JEV, более под операционную часть. Передаешь текст и набор меток прямо в вызове – получаешь ответ. Без промпта, без генерации токенов, один проход. Если по кейсам, то можно прикинуть, что это например: – интент клиента (возврат, отмена подписки, проблема со входом) – роутинг тикетов и писем по отделам – сентимент, включая «mixed», и аспекты отзыва (батарея плохая, экран отличный) – срочность, severity инцидентов, спам, модерация – «нужно ли звать человека» и даже «закончил ли агент задачу» – несколько решений за один вызов: интент + приоритет + нужен ли человек + темы Можно дать метки с описаниями, если название само по себе неоднозначное, и шкалы типа 0–10 для оценок. Бенчмарки (свой датасет fast-decisions, 17 доменов, exact match): – GLiNER2.5-Decide 340M – 60.2% – GLiNER2.5-Decide 1B – 59.6% – Jev – 57.6% – мультиязычная версия 287M – 56.7% То есть обходит без проблем расхайпленный JEV, при этом работает на CPU, лицензия Apache 2.0, можно поставить на любую табуретку у себя. Короче, это уже можно в продакшене у себя использовать. Поставить перед LLM: первичная сортировка входящего потока, быстрое принятие решений, извлечение информации, заполнение метаданных, фильтрация. Гонять коммерческую модель еще и с задержкой до провайдера по интернету будет явно дороже и дольше. https://huggingface.co/fastino/GLiNER2.5-Decide

Кратко (AI)

Представлена модель GLiNER-2.5, предназначенная для эффективного извлечения сущностей и классификации текста без использования генеративных LLM. Модель показывает более высокие результаты на бенчмарках, чем Jev, поддерживает работу на CPU и распространяется под лицензией Apache 2.0, что делает её пригодной для локального продакшена.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖