NoFOMO
搜索 中EN 登录 注册

最高第 1 名 现在第 1 名

OpenAI推出12小时提示缓存

OpenAI在API推出12小时提示缓存,Codex与Work登录用户缓存永久保留且无惩罚。

名次变化

要点

  • OpenAI 现在在 API 中提供 12 小时提示缓存,可保留 30 分钟默认值,也可在同一请求中混用:共享指令用 12h,较新的对话内容用 30 分钟。
  • 对于 Codex 和 Work 的登录用户,缓存永久保留,回到旧对话或几小时后恢复没有惩罚,并且保证命中缓存。
  • 持久化 agent 可以更长时间缓存共享指令、工具和上下文,即使请求相隔数小时,也按更低的缓存输入价格付费。

要点和反应摘要由 AI 依据本页推文整理,请以原推为准。 我们怎么用 AI

原推

Tibo @thsottiaux 90.4万 粉丝

Day 16/ You can now cache for 12h in the API and for logged in users across Codex & Work we keep cache forever and you don’t have any penalty for coming back to an old conversation or resuming after a few hours and are now guaranteed to hit the cache.引用 @OpenAIDevs: You can now choose 12-hour prompt caching in the API. Persistent agents, like dots, reuse context throughout the day. You can keep shared instructions, tools, and context cached longer and pay the lower cached-input rate, even when requests are hours apart.
7,571点赞 400转发 1,331回复 69.8万浏览

在 X 上查看 收藏

同一事件,其他人怎么说

2 条
  1. Theo - t3.gg @theo 2,065

    Theo转发称API缓存可保留12小时,登录用户的Codex与Work缓存永久保留且回归旧对话无惩罚,称其为28天来最大发布。

    在 X 上查看
  2. OpenAI Developers @OpenAIDevs 2,644

    OpenAI 开发者账号宣布 API 现可选 12 小时提示缓存,让持久化智能体复用上下文并享受缓存输入低价。

    在 X 上查看

X 上的热门回复

登录后查看 X 上的 1 条热门回复

来自 @OpenAIDevs 等,已过滤广告,附中英文翻译。

免费注册 已有账号?登录

讨论 0

还没有人讨论,来说第一句。

推荐信源

觉得我们漏了哪个一手信源,或者该关注什么话题?告诉我们。审核通过后,所有人的榜单都会覆盖到它。

@用户名,或者主页链接