提示词缓存

prompt caching · tíshìcí huǎncún · 又作：prompt caching

模型厂商把请求里重复的指令、工具和上下文暂存起来，再次使用时按较低价格计费。

智能体每次调用模型都要带上相同的指令、工具定义和上下文；提示词缓存让厂商在一段时间内保留这部分内容，再次命中时按折扣价收费。2026年10月，据X News，OpenAI把API提示词缓存从默认30分钟延长到12小时。开发者@trevin称，12小时缓存的写入价是2.5倍，高于30分钟缓存的1.25倍，要按调用频率算账。