FEATUREDAI HOT 精选· aihot-apiZH21:00 · 09·22
OpenAI 给 GPT-6 的提示词缓存加了命中率仪表盘和诊断工具,默认就能省更多钱
GPT-6 的提示词缓存现在默认命中率更高,只要 30 分钟内复用相同的前缀内容就能拿到折扣。新上线的仪表盘可以看缓存的命中率走势,诊断工具能告诉你哪次没命中是因为工具定义变了、具体浪费了多少 token(比如一次 tools_changed 就丢了 5,629 个 token)。开发者现在可以手动设缓存断点、在不破坏缓存的前提下调整推理强度,还能提前...
#OpenAI#GPT-6#GitHub Copilot
精选理由
精选 · 重要度 82 · 吸引力 + 知识量 + 共鸣
一句话点评
GPT-6 的缓存现在默认更易命中,30 分钟内复用相同前缀就能打折,还给了诊断工具帮你查哪次没命中、浪费了多少 token。
锐评
OpenAI 这次更新主要解决一个实际问题:让长时间跑任务的 AI 代理更快、更省钱。核心变化是放宽了缓存命中条件,只要 30 分钟内复用相同的前缀内容就能拿到折扣,不像以前那么苛刻。新加的仪表盘和诊断工具很实用,能直接告诉你缓存为什么没命中——比如工具定义变了,一次就浪费 5,629 个 token,这种透明度对开发者调优很有帮助。
GitHub Copilot 说他们用这套机制后,需要重新计算的 token 占比降了超过 50%,Manus 的缓存命中率也从约 85% 提到了 90% 以上。这两个数字来自官方引述,不是第三方测试,所以我会先打个折看。正文没披露折扣的具体比例,只说“最高 90%”,也没讲不同模型或请求量下的实际折扣分布。
手动设缓存断点、不改缓存就能调推理强度,这些功能让开发者对成本控制有了更多抓手。但文章没提这套缓存系统在极端长上下文或多工具频繁切换场景下的稳定性,也没给出延迟改善的具体毫秒数。如果你正在用 GPT-6 跑代理类应用,值得去仪表盘看一眼命中率,但别指望所有场景都能拿到宣传里的最高折扣。
HKR 分解
hook ✓knowledge ✓resonance ✓