Inception представила Mercury 3 — языковую модель, которая генерирует несколько токенов параллельно, а не последовательно. Заявленная скорость составляет 1068 токенов в секунду, контекстное окноi — 1 млн токенов.
Модель предназначена для сценариев, где важен быстрый ответ: голосовых помощников, поддержки клиентов и браузерных агентов. Она доступна через API нескольких платформ, однако публикации расходятся в оценке качества на тестах и стартовой цене.
1068 токенов в секундузаявленная скорость генерации
1 млн токеновразмер контекстного окна
4–8 разускорение против моделей сравнимого класса