ホットトピック継続更新中
研究人员提出可组合KV缓存压缩方案LowRAM
1 件の報道1 件の報道元4 時間前 更新
まずこの件を把握する
AI 概要
2026年11月6日，研究人员在 arXiv 上提出非对称 KV 缓存压缩方案 LowRAM。该方案结合了跨层低秩 Key 压缩与测试期 Value 缓存摊销技术，在三大模型族上实现接近无损压缩。LowRAM 仅在解码步重构选定的 KV 对以最小化开销，在 4 倍压缩下最高可实现 5 倍的峰值解码吞吐量提升。此外，该方案支持与量化及淘汰技术组合，在长上下文场景下压缩率可达 26.9 倍，同时保持基线 94.5% 的性能。
AI が報道をもとに生成 · 4 時間前 更新
最新の進展11月6日 13:00
研究人员提出KV缓存压缩方案LowRAM，长上下文下最高可达26.9倍压缩率。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月6日
- arXiv 机器学习LowRAM：基于低秩 Key 与摊销 Value 的测试期可组合 KV cache 压缩方法
研究人员提出非对称 KV cache 压缩方案 LowRAM，结合跨层低秩 Key 压缩与测试期 Value 缓存摊销，在三大模型族上实现接近无损压缩。该方法仅在解码步重构选定 KV 对以最小化开销，在 4x 压缩下可实现最高 5x 峰值解码吞吐量提升。此外，LowRAM 支持与量化及淘汰技术组合，在长上下文下达到 26.9x 压缩率并保持基线 94.5% 的性能。
このストーリーのホット度の推移
現在のホット度 9·比較可能範囲のピーク 10（11月6日 14:00）·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。