跳到正文
热点事件持续更新

研究者提出大语言模型分组量化精炼方法JARQ

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

2026年10月1日,研究者在arXiv发表论文,提出一种面向大语言模型的分组量化即插即用精炼方法JARQ。该方法无需反向传播,通过交替优化尺度与编码提升量化精度,且完全保持原位宽与推理成本。在基于Llama-2、Llama-3和Qwen并搭配RTN、GPTQ等方案的测试中,JARQ在96组对比中有90组降低了困惑度,使3-bit RTN困惑度最高降低36%。此外,该方案在7B模型上每block优化耗时不足1分钟。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月1日
  1. arXiv 机器学习
    JARQ:面向大语言模型量化的联合交替精炼方法

    JARQ 是一种面向大语言模型的分组量化即插即用精炼方法,无需反向传播即可通过交替优化尺度与编码提升量化精度。在 Llama-2、Llama-3 和 Qwen 搭配 RTN、GPTQ 等方案的测试中,JARQ 在 96 组对比中有 90 组降低了困惑度,并将 3-bit RTN 困惑度最高降低 36%。该方案在 7B 模型上每 block 优化耗时不足 1 分钟,且完全保持原位宽与推理成本。

本事件热度走势

当前热度 9·可比范围峰值 10(10月1日 13:00)·近 24 小时可比范围变化 –

02.557.51010月1日13:0010月1日14:0010月1日15:0010月1日16:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。