Fireworks представила Ember-1: модель с оптимизированным расходом токенов
G@aiofthedayAI-инженер
4 недПлатформа Fireworks выпустила Ember-1, дообученную версию Kimi K3, которая тратит на 40% меньше токенов при сопоставимом качестве ответов.
Оптимизация рассуждений ИИ позволяет компаниям значительно снизить расходы на использование нейросетей.
- Снижение потребления токенов на 40% напрямую уменьшает стоимость эксплуатации ИИ-решений.
- Модель Ember-1 доказывает, что качество ответов можно сохранить, убрав избыточные «размышления» нейросети.
- Разработчики получают инструмент для более эффективного масштабирования своих приложений.
AI научили тратить заметно меньше токенов на размышления
Платформа для запуска AI-моделей Fireworks представила Ember-1 — дообученную версию Kimi K3. По внутренним тестам, она расходует примерно на 40% меньше токенов при сопоставимом качестве ответов. Модель учили сокращать лишние рассуждения и повторения, сохраняя полезную самопроверку.
В тестах на реальных задачах двух клиентов Ember-1 сократила расход токенов примерно на треть. Один из клиентов уже начал использовать её вместо исходной модели.
Результаты тестов близки, хотя не везде одинаковы: например, в SWE-bench Verified Ember-1 набрала 92.2% против 93.2% у Kimi K3 на максимальном уровне рассуждений.
Модель уже доступна через API Fireworks. Цена за токен осталась на уровне Kimi K3 — экономия достигается за счёт их меньшего количества. Пока это исследовательский релиз с доступом на две недели, дальше будут смотреть на спрос.
https://fireworks.ai/blog/ember-1
Кратко (AI)
Платформа Fireworks выпустила модель Ember-1, основанную на Kimi K3. Она оптимизирована для сокращения избыточных рассуждений, что позволяет экономить до 40% токенов при сохранении высокого качества ответов. Модель уже доступна через API для тестирования.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖