热点事件持续更新
研究团队提出GateSight混合架构KV淘汰方法
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
2026年10月14日,研究人员在 arXiv 发布研究,提出名为 GateSight 的与查询无关 KV 逐出方法。该方法面向混合大语言模型,主要利用模型中 GDN 层在预训练及预填充阶段所输出的门控与衰减信号,在无需读取注意力分数的前提下,直接预判并物理释放低效的 KV cache,以实现混合记忆架构的高效管理。
AI 根据报道生成 · 2 小时前更新
最新进展10月14日 12:00
研究团队提出GateSight方法,利用GDN信号在不读取注意力分数下释放KV缓存。报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- arXiv 人工智能GateSight:混合大语言模型中利用循环记忆预判注意力记忆的与查询无关 KV 逐出方法
研究人员提出 GateSight 方法,利用混合大语言模型中 GDN 层在预训练/预填充阶段输出的门控与衰减信号,在不读取注意力分数的情况下预判并物理释放低效 KV cache。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。