Induction AI提出提示词缓存隔离方案解决测试成本失真

2026年10月24日，针对模型供应商跨任务共享提示词缓存导致智能体基准测试成本失真的问题，Induction AI 分享了基准测试提示词缓存隔离方案。该方案提出在工具列表中注入包含唯一试验编号的虚拟工具，利用工具声明通常位于上下文最前端的特性，阻断跨试验的缓存命中，从而实现试验间的缓存隔离以及试验内部的正常复用。同时，该方案还需要为虚拟工具实现无害响应，以防模型意外调用该工具导致测试中断。

AI 根据报道生成 · 52 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。