←新闻详情

Tibo更新于 10月25日 21:20

OpenAI API 支持 12 小时提示词缓存,Codex 与 Work 登录用户缓存长期保留

Day 16/

AI 导读

OpenAI 开发者账号宣布 API 现在可以选择 12 小时提示词缓存,共享指令、工具和上下文可以缓存更久,即使请求间隔数小时也按更低的缓存输入价格计费。Tibo 补充说,Codex 与 Work 的登录用户缓存会一直保留,回到旧对话或隔几小时继续时没有额外代价,并能保证命中缓存。

推荐理由

AI 评分 52

原文说明 API 提示词缓存延长到 12 小时,并给出 Codex 与 Work 登录用户的缓存保留差异,便于判断长时智能体的成本变化。

主题

标签

引用

OpenAI Developers

@OpenAIDevs

现在你可以在 API 中选择 12 小时提示词缓存。 像 dots 这样的持久化智能体,会在一天中反复复用上下文。 你可以将共享指令、工具和上下文缓存更长时间,并享受更低的缓存输入价格,即使请求之间相隔数小时也是如此。

查看原文

You can now choose 12-hour prompt caching in the API. Persistent agents, like dots, reuse context throughout the day. You can keep shared instructions, tools, and context cached longer and pay the lower cached-input rate, even when requests are hours apart.

查看原帖

正文

Day 16/

You can now cache for 12h in the API and for logged in users across Codex & Work we keep cache forever and you don’t have any penalty for coming back to an old conversation or resuming after a few hours and are now guaranteed to hit the cache.

来源

Tibo