📰 来源：OpenAI　|　📅 翻译日期：2026年9月23日
🔗 原文：查看原文
🤖 翻译：DeepSeek AI · 仅供参考

GPT-6 的提示缓存改进

GPT-6 进一步优化了 提示缓存（prompt caching），帮助开发者在调用模型时获得更高的效率。其核心改进包括：更高的缓存命中率、全新的诊断能力、显式断点（explicit breakpoints），以及能够 降低延迟与成本 的控制项。

关键特性

• 更高缓存命中率：让更多重复提示内容命中缓存，减少重复计算。
• 新诊断功能：提供更清晰的缓存行为洞察，便于排查命中率低或缓存失效的问题。
• 显式断点：允许开发者明确指定缓存分段位置，更精细地控制哪些内容可被复用。
• 延迟与成本控制：通过更有效的缓存策略，降低请求延迟并减少调用成本。

为什么重要

对于高频调用、长提示或带有固定系统指令的应用，提示缓存可以显著影响响应速度与费用。GPT-6 的这些改进让缓存更可控、更可观测，也更经济。

开发者可获得的收益

1. 减少重复处理，提高吞吐。
2. 通过诊断信息优化提示结构。
3. 利用显式断点精确管理缓存边界。
4. 在保持效果的同时控制延迟和开销。