最高第 1 名 现在第 1 名
OpenAI推出12小时提示缓存
OpenAI在API推出12小时提示缓存,Codex与Work登录用户缓存永久保留且无惩罚。
要点
- OpenAI 现在在 API 中提供 12 小时提示缓存,可保留 30 分钟默认值,也可在同一请求中混用:共享指令用 12h,较新的对话内容用 30 分钟。
- 对于 Codex 和 Work 的登录用户,缓存永久保留,回到旧对话或几小时后恢复没有惩罚,并且保证命中缓存。
- 持久化 agent 可以更长时间缓存共享指令、工具和上下文,即使请求相隔数小时,也按更低的缓存输入价格付费。
要点和反应摘要由 AI 依据本页推文整理,请以原推为准。 我们怎么用 AI
原推
Day 16/
You can now cache for 12h in the API and for logged in users across Codex & Work we keep cache forever and you don’t have any penalty for coming back to an old conversation or resuming after a few hours and are now guaranteed to hit the cache.引用 @OpenAIDevs: You can now choose 12-hour prompt caching in the API.
Persistent agents, like dots, reuse context throughout the day.
You can keep shared instructions, tools, and context cached longer and pay the lower cached-input rate, even when requests are hours apart.
同一事件,其他人怎么说
2 条-
Theo - t3.gg @theo 2,065
Theo转发称API缓存可保留12小时,登录用户的Codex与Work缓存永久保留且回归旧对话无惩罚,称其为28天来最大发布。
在 X 上查看 -
OpenAI 开发者账号宣布 API 现可选 12 小时提示缓存,让持久化智能体复用上下文并享受缓存输入低价。
在 X 上查看
讨论 0
注册 登录 后参与讨论
还没有人讨论,来说第一句。