AI圈报
产品发布 / 更新普通

OpenAI 增强 GPT-6 提示词缓存可靠性与可控性

信息来源:X:Rohan Paul (@rohanpaul_ai)·
原始标题:OpenAI is making GPT-6 prompt caching more reliable and controllable, adding higher hit rates, diagn…

内容摘要

OpenAI 为 GPT-6 的提示词缓存带来更高命中率、诊断工具、断点、预热和保留缓存的推理变更。缓存复用可将缓存输入 token 成本降低最多 90%,新仪表盘展示缓存命中率及缓存与未缓存 token 量。作者指出高命中率仍是应用设计问题,开发者需让长时运行智能体的稳定指令和工具保持可复用。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Rohan Paul (@rohanpaul_ai)
站内情报编号intel-8db8fbaaf2e2867e0a4b959b