OpenAI увеличила срок хранения кэша до 12 часов
F@FuturisAI-инженер
6 днВ API OpenAI кэш теперь хранится до 12 часов, а в Codex и ChatGPT Work для подписчиков — бессрочно. Длительное хранение в API стоит дороже.
Дольше сохраняющийся кэш может сократить расходы на повторную обработку длинных разговоров с ИИ.
- В API OpenAI кэш хранится до 12 часов вместо 30 минут.
- Для подписчиков Codex и ChatGPT Work кэш, по сообщению, сохраняется бессрочно.
- Длительное хранение в API обходится дороже, но может окупиться при повторном использовании.
Чтооо🐸 OpenAI на 16-й день марафона выкатили бомбу: в API теперь можно держать кэш 12 часов вместо 30 минут, а в Codex и ChatGPT Work кэш для подписчиков хранится вечно😧😧😧 то есть можно уйти на ночь, вернуться к старому разговору, и лимиты не сгорят на перечитывании всего контекста 😳 Для агентов, которые часами ждут сборки и тесты, это огромная экономия, я на своих логах видел, как такие перезаписи съедали недельный лимит. Для сравнения: у Anthropic кэш живёт 5 минут по умолчанию и максимум час. Есть нюанс: запись в 12-часовой кэш в API в 2,5 раза дороже, но окупается уже со второго-третьего использования.
P.S.
Anthropic, ваш ход 🌚
И да, такое забираем, сегодня можно без ресета👍
Кратко (AI)
По сообщению, OpenAI увеличила срок хранения кэша в API до 12 часов, а в Codex и ChatGPT Work для подписчиков кэш хранится бессрочно. Запись в 12-часовой кэш стоит в 2,5 раза дороже; автор утверждает, что она окупается после второго-третьего использования. Для сравнения приводится срок кэша Anthropic: от 5 минут до часа.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖