- 类型
- 产品
- 来源
- AIHOT · X / 公众号精选
- 发布
- 2026年10月21日 01:10
- 状态
- 单一信源
产品速览
OpenAI 开发者账号宣布,API 现可选择启用 12 小时 prompt 缓存,持续运行的智能体即使在请求间隔数小时后,仍能以更低的缓存输入费率复用指令、工具和上下文。Tibo 补充说明,在 Codex 与 Work 中,已登录用户的缓存会永久保留,用户返回旧对话或间隔数小时后恢复会话时仍能命中缓存,并且没有额外惩罚。
为什么值得试
此前缓存命中的窗口更短,一旦间隔拉长,复用成本就会上升。此次把可选的缓存窗口延长到 12 小时,并称 Codex 与 Work 登录用户的缓存长期保留,使长时间断点续跑和多轮工具调用更可能维持低费率,值得用持续型智能体进行实测。
核心能力
核心机制是延长 prompt 缓存的可用期限:API 端提供可选的 12 小时缓存,持续运行的智能体可在请求间隔数小时后继续复用指令、工具与上下文;Codex 与 Work 对已登录用户不清理缓存,使旧对话恢复时仍可命中,从而按缓存输入费率计费。
适合谁与使用场景
对构建长时运行智能体、定时任务或需要跨小时恢复会话的团队,可减少重复传输和重复上下文处理带来的输入成本。Codex 与 Work 的登录用户在多轮或隔天续聊场景中,更可能直接命中缓存,不必重新组织上下文。是否适用于未登录或匿名场景,证据未说明。
- 选一个持续运行的智能体,将请求间隔设为 1 至数小时,对比开启与关闭 12 小时缓存时的输入费用和命中情况。
- 在 Codex 或 Work 中隔数小时恢复旧对话,验证缓存命中是否稳定,并记录回复一致性与延迟。
- 为长流程任务设计断点续跑脚本,验证指令、工具定义与上下文在长间隔后复用是否降低单次调用成本。
上手前待确认
- 12 小时 prompt 缓存是否需要额外配置或申请,是否有地区或账户限制?
- 缓存输入费率的具体价格与普通输入费率的差异是多少?
- Codex 与 Work 的缓存永久保留是否适用于所有已登录用户,是否有时效或容量上限?
- 未登录用户或非 Codex、Work 场景的缓存保留策略与惩罚规则是什么?