热点事件观察中
研究揭示KV Cache压缩致大模型出现“软拒绝”现象
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
2026年9月29日,arXiv发布的研究指出,大语言模型在进行KV Cache压缩推理时会出现“软拒绝”现象,导致轻量级关键词监控与分类器判断产生脱节。在Qwen2.5-3B模型上的测试结果显示,KV Cache压缩后,模型的关键词拒绝率从98.0%大幅下降至80.5%;与此同时,HarmBench分类器拒绝率仍维持在99.0%至99.5%之间,且MMLU准确率稳定在50.0%保持不变。
AI 根据报道生成 · 6 小时前更新
最新进展9月29日 12:00
研究显示KV Cache压缩会引发软拒绝,导致关键词监控与分类器脱节。报道时间线
沿着报道,了解事件的不同侧面。
9月29日
- arXiv 机器学习KV cache 压缩下的软拒绝现象:关键词检测下降而分类器保持稳定
研究发现大语言模型在 KV cache 压缩推理下会出现“软拒绝”现象,导致轻量级关键词监控与分类器判断脱节。在 Qwen2.5-3B 上的测试显示,压缩后关键词拒绝率从 98.0% 降至 80.5%,而 HarmBench 分类器拒绝率仍维持在 99.0%-99.5% 且 MMLU 准确率保持 50.0% 不变。
本事件热度走势
当前热度 4·可比范围峰值 5(9月30日 12:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。