产品发布 / 更新普通
OpenAI 增强 GPT-6 提示词缓存可靠性与可控性
原始标题:OpenAI is making GPT-6 prompt caching more reliable and controllable, adding higher hit rates, diagn…
内容摘要
OpenAI 为 GPT-6 的提示词缓存带来更高命中率、诊断工具、断点、预热和保留缓存的推理变更。缓存复用可将缓存输入 token 成本降低最多 90%,新仪表盘展示缓存命中率及缓存与未缓存 token 量。作者指出高命中率仍是应用设计问题,开发者需让长时运行智能体的稳定指令和工具保持可复用。
内容分类AI 产品发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-8db8fbaaf2e2867e0a4b959b