跳到正文
热点事件持续更新

研究团队提出无需训练的KV Cache驱逐方法LORE-KV

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月7日,arXiv自然语言处理领域发布一项研究,提出了一种无需训练的KV cache驱逐方法LORE-KV。该方法通过采样模型未来的响应query轨迹,来蒙特卡洛估计prompt token的重要性。实验结果显示,在B=128的预算下,LORE-KV将Qwen2.5-14B的LongBench平均分从45.49提升至48.24(+2.75),并将Mistral-7B在16K RULER测试中的平均分从45.20提升至51.05(+5.85)。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月7日
  1. arXiv 自然语言处理
    用于 KV cache 驱逐的蒙特卡洛估计

    研究提出无需训练的 KV cache 驱逐方法 LORE-KV,通过采样模型未来的响应 query 轨迹来估计 prompt token 的重要性。在 B=128 预算下,该方法将 Qwen2.5-14B 的 LongBench 平均分从 45.49 提升至 48.24(+2.75),并将 Mistral-7B 的 16K RULER 平均分从 45.20 提升至 51.05(+5.85)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。