热点事件持续更新
研究团队提出负载自适应KV缓存管理器WAKMan
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月28日,研究团队在arXiv发布论文,提出名为WAKMan的感知工作负载KV缓存(KV cache)管理器。该系统无需获知具体请求类型或读取提示词内容,即可根据实时流量自适应选择缓存淘汰策略。针对智能体与长对话等应用在命中偏好上的差异,WAKMan解决了传统单一策略无法适应多重混合负载的问题。实验结果显示,与vLLM默认采用的LRU策略相比,WAKMan将缓存命中率平均提升了5个百分点,并取得了最低的平均与最差情况最优性差距。
AI 根据报道生成 · 4 小时前更新
最新进展10月28日 12:00
研究团队提出KV缓存管理器WAKMan,相比vLLM默认策略命中率平均提升5个百分点。报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv 人工智能WAKMan:感知工作负载的 KV cache 管理器
研究人员提出感知负载的 KV cache 管理器 WAKMan,无需获知请求类型或读取提示词即可根据实时流量自适应选择淘汰策略。针对智能体与长对话在命中偏好上的差异,WAKMan 解决了单一策略无法适应多重混合负载的问题,相比 vLLM 默认的 LRU 策略将缓存命中率平均提升 5 个百分点,并取得最低的平均与最差情况最优性差距。
本事件热度走势
当前热度 9·可比范围峰值 10(10月28日 13:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。