热点事件持续更新
大模型无损KV缓存压缩系统GAAC提出
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
2026年10月30日，arXiv发布关于面向个人设备的大语言模型带宽高效无损KV缓存压缩系统GAAC的研究。该系统通过利用指数冗余，在保持数值逐位完全无损的同时有效降低显存开销。测试结果显示，GAAC在5款模型上取得了1.405至1.407倍的BF16 KV压缩率，能够使常驻KV显存减少约26%，并将聚合吞吐量提升13%至29%。
AI 根据报道生成 · 2 小时前更新
最新进展10月30日 12:00
研究提出面向个人设备的无损KV缓存压缩系统GAAC，可减少约26%常驻显存。报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- arXiv 人工智能GAAC：面向个人设备的大语言模型带宽高效无损 KV 压缩技术
GAAC 是一种面向个人设备的无损 KV 缓存压缩系统，通过利用指数冗余在保持数值逐位完全无损的同时降低显存开销。测试显示其在 5 款模型上取得 1.405-1.407x 的 BF16 KV 压缩率，使常驻 KV 显存减少约 26%，聚合吞吐量提升 13-29%。
本事件热度走势
当前热度 9·可比范围峰值 9（10月30日 15:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。