跳到正文
热点事件持续更新

研究团队提出面向MLA架构的2比特KV缓存量化方法RoLaQ

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

2026年10月16日,研究人员在arXiv发布研究成果,提出了一种名为RoLaQ的离线校准方法。该方法主要面向多头潜在注意力(MLA)架构,通过联合旋转与范围校准来优化2-bit KV缓存(KV Cache)。实验评估表明,在涉及3个MLA模型及6个基准测试(benchmark)的评测中,无论是否开启token保护,RoLaQ在所有对比的2-bit量化方法中均取得了最高的平均准确率。

AI 根据报道生成 · 9 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. arXiv 机器学习
    RoLaQ:面向多头潜在注意力的 2-Bit KV Cache 联合旋转与范围校准方法

    研究人员提出离线校准方法 RoLaQ,通过联合旋转与范围校准优化多头潜在注意力(MLA)下的 2-bit KV cache。在 3 个 MLA 模型和 6 个 benchmark 测试中,RoLaQ 在有无 token 保护的对比 2-bit 方法中均取得最高平均准确率。

本事件热度走势

当前热度 8·可比范围峰值 10(10月16日 13:00)·近 24 小时可比范围变化 –

02.557.51010月16日13:0010月16日16:0010月16日18:0010月16日21:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。