热点事件持续更新
研究者提出大语言模型训练后量化算法MPQ
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
2026年10月26日，研究者在arXiv发布论文，提出面向大语言模型训练后量化（PTQ）的新算法——消息传递量化（MPQ）。该算法将量化重构为离散码本上的后验推理问题，通过在推理阶段保留跨块的软后验信息，克服了传统方法中硬决策带来的局限。MPQ利用矢量近似消息传递来计算近似块后验分布，并在此基础上通过精确块坐标下降优化输出。实验结果表明，在Llama、Qwen和Mistral等主流模型的2-bit格型量化以及3-bit、4-bit标量量化测试中，MPQ均改善了困惑度指标并提升了zero-shot任务准确率。
AI 根据报道生成 · 9 小时前更新
最新进展10月26日 12:00
研究者提出消息传递量化（MPQ）算法，提升大模型在2-bit至4-bit量化下的性能表现。报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- arXiv 人工智能MPQ：从消息传递视角重塑大语言模型训练后量化
研究者提出消息传递量化（MPQ），将大语言模型训练后量化视为离散码本上的后验推理，通过在推理阶段保留跨块的软后验信息克服传统硬决策局限。该算法利用矢量近似消息传递计算近似块后验分布，再通过精确块坐标下降优化输出。在 Llama、Qwen 与 Mistral 的 2-bit 格型及 3-bit、4-bit 标量量化测试中，MPQ 均提升了困惑度和 zero-shot 准确率。
本事件热度走势
当前热度 8·可比范围峰值 10（10月26日 13:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。