Jev: специализированная альтернатива LLM для классификации и скоринга
Н@GreenNeuralRobotsAI-инженер
1 месTypeSafe AI представили Jev — систему для классификации и скоринга, которая работает быстрее и дешевле LLM, выдавая типизированные данные с вероятностями.
Jev предлагает более надежный и дешевый способ интеграции ИИ в бэкенд-системы для задач классификации.
- Исключает необходимость парсинга и валидации текстового вывода LLM.
- Значительное снижение затрат и времени отклика для специфических задач.
- Предоставляет данные с калиброванными вероятностями для автоматизированных систем.
Jev - System One
TypeSafe AI переизобрели классификацию и подают это как превосходящую альтернативу LLM (на задачах классификации и скоринга)
Обычные LLM пишут ответ токен за токеном и отдают строку. Ее надо парсить и валидировать, а модель в любой момент может сойти с рельсов и выдать галлюцинацию. У Jev структура ответа задана схемой заранее, варианты просчитываются параллельно одним запросом, на выходе типизированные данные с калиброванными вероятностями.
Классификация и скоринг: до 200 раз быстрее и в 450 раз дешевле классических LLM. Вход стоит $0,042 за миллион токенов, выход бесплатный.
Для бэкенда и автоматизации это готовое решение с уровнем уверенности, а не текст для разбора. Софт получает вероятности напрямую - как вызов функции с интеллектом.
Автор - выходеw из OpenAI, участвовавший в работе над методами, которые легли в основу ChatGPT
#classification #automation
Кратко (AI)
Компания TypeSafe AI выпустила систему Jev, предназначенную для задач классификации и скоринга. В отличие от стандартных LLM, Jev работает по заранее заданной схеме, выдавая типизированные данные с вероятностями, что исключает необходимость парсинга текста и снижает риск галлюцинаций.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖