We’ve improved prompt caching in the API for GPT-6, helping agents run faster and cost less.
Higher cache-hit rates by default mean more input tokens benefit from cached-input discounts of up to 90%.
AI 导读
我们改进了 GPT-6 在 API 中的提示词缓存，帮助智能体运行更快、成本更低。 默认更高的缓存命中率意味着更多输入 token 可享受最高 90% 的缓存输入折扣。
OpenAI Developers@OpenAIDevs47
AI 编辑部评分，满分 100我们改进了 GPT-6 在 API 中的提示词缓存，帮助智能体运行更快、成本更低。 默认更高的缓存命中率意味着更多输入 token 可享受最高 90% 的缓存输入折扣。