Anthropic ускорила первый токен в Claude
D@data_secretsAI-инженер
1 недВ Claude Code время ожидания первого токена сократилось в 3 раза, а в чате, Cowork и API — в 1,5 раза.
Пользователи Claude быстрее получают ответ, а длинные диалоги реже требуют повторной обработки всего контекста.
- В Claude Code ожидание первого токена сократилось в 3 раза.
- В чате, Cowork и API ожидание сократилось в 1,5 раза.
- Автоматическое сжатие простаивающих длинных разговоров помогает избежать повторного расчёта всего контекста.
Anthropic существенно ускорили Claude
В Claude Code время ожидания до генерации первого токена упало в 3 раза, в чате, в Cowork и в API – в 1.5 раза.
Во-первых, Claude Code теперь передает модели историю диалога в виде сжатого архива, который уходит по сети быстрее.
Во-вторых, если раньше облачная среда запускалась после отправки сообщения, то теперь она начинает подниматься, как только вы начали печатать, и к моменту отправки промпта уже готова, так что доп.время на ее запуск не тратится.
Кстати, в новой версии Claude Code также добавили функцию idle compaction: если разговор от 200 тыс. токенов простоял без дела около 54 минут, его автоматически сжимают.
Дело в том, что кэш промпта живет как раз час, и сжатие делают незадолго до того, как кэш сброситься, чтобы следующее сообщение не пересчитывало весь длинный контекст по полной цене (changelog).

Кратко (AI)
Anthropic сократила время ожидания первого токена: в Claude Code — в 3 раза, а в чате, Cowork и API — в 1,5 раза. Среди описанных изменений — сжатие истории диалога, предварительный запуск облачной среды при наборе сообщения и автоматическое сжатие простаивающих разговоров от 200 тыс. токенов.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖