AI 导读
OpenAI Developers 宣布为 GPT-6 的 API 改进提示词缓存,默认缓存命中率更高,更多输入 token 可享受最高 90% 的缓存输入折扣。官方表示这一改动可让智能体运行更快、成本更低。
正文
We’ve improved prompt caching in the API for GPT-6, helping agents run faster and cost less.
Higher cache-hit rates by default mean more input tokens benefit from cached-input discounts of up to 90%.
https://t.co/NZse8QKr8G
来源:@OpenAIDevs · x.com