Бывший разработчик ChatGPT представил System One Models и модель Jev
D@data_secretsAI-инженер
1 месДиого Алмейда представил Jev — модель нового класса System One, которая возвращает структурированные данные вместо текста, работая в 20–200 раз быстрее LLM.
Новый подход к ИИ-моделям позволяет автоматизировать бизнес-задачи в десятки раз быстрее и дешевле.
- Модель Jev исключает этап генерации и парсинга текста, работая напрямую со структурированными данными.
- Скорость обработки запросов возрастает в 20–200 раз по сравнению с традиционными LLM.
- Отсутствие платы за выходные токены делает использование модели экономически выгодным для высоконагруженных систем.
Бывший разработчик ChatGPT представил новый класс моделей System One Models, которые не генерируют текст
Диого Алмейда – соавтор RLHF и один из авторов статьи про InstructGPT (именно эта техника легла в основу для ChatGPT в 2022).
В 2024 он основал TypeSafe AI. Два года они работали в стелсе, и только что официально представили свою первую модель Jev.
Идея в том, что для огромного количества задач текст вообще не нужен. Если модель должна определить категорию запроса, оценить риск или выбрать следующий шаг агента, обычная LLM все равно генерирует ответ токен за токеном, после чего его еще нужно распарсить.
Jev вместо этого сразу возвращает структурированный ответ и вероятность каждого варианта. Например, не пишет текстом, куда отправить запрос пользователя, а сразу возвращает нужную категорию.
За счет этого Jev работает в 20–200 раз быстрее обычных LLM на таких задачах (70-500 мс). Цена тоже необычная: $0.042 за 1М входных токенов, выходные бесплатно. Модель сейчас доступна в early access.
https://typesafe.ai/blog/introducing-system-one-models-and-jev
Кратко (AI)
Диого Алмейда, один из создателей InstructGPT, представил компанию TypeSafe AI и её первую модель Jev. В отличие от стандартных LLM, Jev работает по принципу System One Models, выдавая структурированные ответы без генерации текста, что значительно повышает скорость и снижает стоимость обработки задач.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖