OpenAI把API提示词缓存延长至12小时,Codex登录用户缓存永久保留
据X News,OpenAI为开发者推出新的API功能,把提示词缓存的保留时间从默认的30分钟延长到12小时。按X News的说法,长时间运行的智能体即使相隔数小时,也能以较低价格复用共享的工具、上下文和指令;同一请求里可以混用不同的缓存时长。
OpenAI的Tibo(@thsottiaux)在“Day 16”系列帖中称,API现在可缓存12小时,而Codex与Work的登录用户缓存“永久”保留,回到旧对话或隔几小时继续都不会有额外代价,并且保证命中缓存。
开发者@trevin提醒先算账:他称默认30分钟缓存的写入价是1.25倍,12小时缓存是2.5倍;如果智能体每小时运行一次,30分钟缓存每次都已过期,每次都要重新写入,而12小时缓存只需付一次较贵的写入。
以上综合X News摘要与当事人帖子,价格倍数为@trevin自述。
来源与说明 · 据X News本文依据X News摘要整理,本社未独立核实。
原文:https://x.com/i/trending/2112637284642349105
https://x.com/thsottiaux/status/2112712984644784534
https://x.com/trevin/status/2112627291637657935
原文:https://x.com/i/trending/2112637284642349105
https://x.com/thsottiaux/status/2112712984644784534
https://x.com/trevin/status/2112627291637657935