跳到正文
热点事件观察中

研究揭示KV Cache压缩致大模型出现“软拒绝”现象

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

2026年9月29日,arXiv发布的研究指出,大语言模型在进行KV Cache压缩推理时会出现“软拒绝”现象,导致轻量级关键词监控与分类器判断产生脱节。在Qwen2.5-3B模型上的测试结果显示,KV Cache压缩后,模型的关键词拒绝率从98.0%大幅下降至80.5%;与此同时,HarmBench分类器拒绝率仍维持在99.0%至99.5%之间,且MMLU准确率稳定在50.0%保持不变。

AI 根据报道生成 · 6 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

9月29日
  1. arXiv 机器学习
    KV cache 压缩下的软拒绝现象:关键词检测下降而分类器保持稳定

    研究发现大语言模型在 KV cache 压缩推理下会出现“软拒绝”现象,导致轻量级关键词监控与分类器判断脱节。在 Qwen2.5-3B 上的测试显示,压缩后关键词拒绝率从 98.0% 降至 80.5%,而 HarmBench 分类器拒绝率仍维持在 99.0%-99.5% 且 MMLU 准确率保持 50.0% 不变。

本事件热度走势

当前热度 4·可比范围峰值 5(9月30日 12:00)·近 24 小时可比范围变化 –

02469月30日12:009月30日14:009月30日15:009月30日17:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。