跳到正文
@OpenAIDevs· @OpenAIDevs · X·· 14 天前AI 评分61
AI 导读

OpenAI Developers 宣布为 GPT-6 的 API 改进提示词缓存,默认缓存命中率更高,更多输入 token 可享受最高 90% 的缓存输入折扣。官方表示这一改动可让智能体运行更快、成本更低。

正文

We’ve improved prompt caching in the API for GPT-6, helping agents run faster and cost less.

Higher cache-hit rates by default mean more input tokens benefit from cached-input discounts of up to 90%.
https://t.co/NZse8QKr8G

来源:@OpenAIDevs · x.com