热点事件持续更新
研究人员提出大模型KV Cache压缩方法PeekKV
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月，研究人员提出了一种名为PeekKV的大语言模型KV cache压缩方法。该方法无需离线分析或额外训练，仅凭prefill阶段后的首个内容token即可识别关键注意力头并动态分配显存。性能测试显示，在Llama-3.1-8B-Instruct模型中，PeekKV在16K上下文RULER评测下仅用10%显存预算便保留了95.7%的全缓存精度；在LongBench基准测试中，以1.5%显存预算保留了95.9%的精度。
AI 根据报道生成 · 2 小时前更新
最新进展10月20日 12:00
研究人员提出KV cache压缩方法PeekKV，仅凭首个内容token即可动态分配显存。报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- arXiv 机器学习PeekKV：首个内容 token 即可识别关键注意力头
研究人员提出大语言模型 KV cache 压缩方法 PeekKV，无需离线分析或训练，仅凭 prefill 后的首个内容 token 即可动态分配显存。在 Llama-3.1-8B-Instruct 测试中，PeekKV 在 16K 上下文 RULER 下以 10% 显存预算保留了 95.7% 的全缓存精度，在 LongBench 下以 1.5% 预算保留了 95.9% 精度。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。