跳到正文
热点事件持续更新

研究者提出低比特量化恢复方案OnQ提升大模型推理能力

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月22日,研究团队在arXiv发布低比特恢复方案OnQ。该方案结合on-policy知识蒸馏与Dynamic KL,旨在通过自生成轨迹恢复量化大语言模型的长程推理能力。在2-bit和3-bit精度的Qwen3-1.7B、4B及8B模型测试中,OnQ在9个基准上均取得最高平均分;其中在2-bit精度下,Qwen3-8B较最强基线提升了10.26分。此外,该方案在测试中生成了更短的回复,并有效减少了截断与重复错误。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. arXiv 自然语言处理
    OnQ:通过自生成轨迹恢复大语言模型低比特量化推理能力

    研究团队提出低比特恢复流程 OnQ,结合 on-policy 知识蒸馏与 Dynamic KL,通过自生成轨迹恢复量化大语言模型的长程推理能力。在 2-bit 和 3-bit 精度的 Qwen3-1.7B、4B 和 8B 测试中,OnQ 在 9 个基准上取得最高平均分,其中 2-bit 下 Qwen3-8B 较最强基线提升 10.26 分。该方案同时生成了更短的回复,并减少了截断与重复错误。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。