热点事件持续更新
非前缀KV缓存复用系统KV-Repurpose开源
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
2026年10月12日，研究团队通过arXiv公布了基于vLLM构建的开源测试系统KV-Repurpose，该系统支持跨前缀的段级KV cache复用，目前已在Apache-2.0协议下开源。测试结果显示，在20%请求共享固定前缀的Zipf分布RAG负载下，同样采用30 GB缓存容量时，KV-Repurpose的token级缓存命中率由传统前缀缓存的3.3%提升至63.9%，显著降低了TTFT；而传统前缀缓存方案即使将容量提升至1 TB，其缓存命中率也仅有17.9%。
AI 根据报道生成 · 8 小时前更新
最新进展10月12日 12:00
KV-Repurpose已在Apache-2.0下开源，在RAG负载下将30GB容量的缓存命中率提升至63.9%。报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- arXiv 自然语言处理KV-Repurpose：用于评估非前缀 KV cache 复用的测试平台
开源测试系统 KV-Repurpose 基于 vLLM 构建，支持跨前缀的段级 KV cache 复用并已在 Apache-2.0 协议下开源。在 20% 请求共享固定前缀的 Zipf 分布 RAG 负载下，同为 30 GB 缓存容量时，其 token 级缓存命中率从传统前缀缓存的 3.3% 提升至 63.9%，显著降低 TTFT，而传统方案即使增至 1 TB 容量命中率也仅为 17.9%。
本事件热度走势
当前热度 8·可比范围峰值 10（10月12日 13:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。