Вышла Mercury 3 со скоростью генерации 1 068 токенов в секунду
G@aiofthedayAI-инженер
1 недInception представила диффузионную языковую модель Mercury 3: скорость 1 068 токенов в секунду, контекст в миллион токенов и бесплатные первые 100 миллионов токенов.
Быстрая генерация может сделать голосовых помощников и других ИИ-сервисов заметно отзывчивее.
- Заявленная скорость модели — 1 068 токенов в секунду.
- Модель рассчитана на голосовых помощников, поддержку клиентов и браузерных агентов.
- Первые 100 миллионов токенов можно использовать бесплатно.
Вышла Mercury 3 со скоростью больше тысячи токенов в секунду
Mercury 3 — диффузионная языковая модель. Если говорить упрощённо, она генерирует весь текст сразу, а не токен за токеном слева направо. Благодаря этому скорость генерации выше, чем у обычных LLM.
По внутренним тестам она сопоставима с GPT-6 Luna и Haiku 5.5, при этом работает в 4–8 раз быстрее. Заявленная скорость — 1 068 токенов в секунду, контекст — миллион токенов.
Модель рассчитана на задачи, где важен быстрый ответ: голосовых помощников, обучение, поддержку клиентов и агентов, которые работают в браузере. Партнёры Inception уже используют её в таких сценариях.
Цена в API — 0.20 доллара за миллион входных токенов и 0.70 доллара за миллион выходных. На старте действует скидка 50% от этой цены. Первые 100 миллионов токенов дают бесплатно.
https://www.inceptionlabs.ai/blog/introducing-mercury-3
Кратко (AI)
Inception выпустила Mercury 3 — диффузионную языковую модель, которая, по заявлению компании, генерирует 1 068 токенов в секунду и поддерживает контекст в миллион токенов. В посте также указаны цены API, стартовая скидка 50% и бесплатные первые 100 миллионов токенов.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖