热点事件持续更新
研究者提出大模型量化残差补偿方法ResCom
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
2026年10月28日，研究者在arXiv发布论文，提出面向大语言模型量化的激活残差补偿方法ResCom。该方法利用激活舍入残差进行低秩修正，通过闭式解补偿大语言模型的量化误差，无需梯度训练。实验表明，该方法可覆盖1B至70B规模的模型。在采用4-bit权重与激活的Llama-3-8B上，ResCom使MMLU评分提升2.89个百分点，5-shot GSM8K准确率由23.96%提升至36.16%。在计算开销方面，其4K prefill时间仅增加2.25%，较FP16依然保持了27.7%的峰值显存缩减。
AI 根据报道生成 · 6 小时前更新
最新进展10月28日 12:00
研究者提出无需梯度训练的ResCom方法，有效补偿大模型量化误差并降低显存。报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv 机器学习ResCom：面向大语言模型量化的激活残差补偿
ResCom 提出利用激活舍入残差进行低秩修正，通过闭式解补偿大语言模型量化误差，无需梯度训练。在 4-bit 权重与激活的 Llama-3-8B 上，它使 MMLU 提升 2.89 个百分点，5-shot GSM8K 准确率由 23.96% 升至 36.16%。该方法覆盖 1B 至 70B 模型，4K prefill 时间仅增 2.25%，较 FP16 保持 27.7% 的峰值显存缩减。
本事件热度走势
当前热度 8·可比范围峰值 10（10月28日 13:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。