热点事件持续更新
研究者提出低比特量化恢复方案OnQ提升大模型推理能力
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月22日,研究团队在arXiv发布低比特恢复方案OnQ。该方案结合on-policy知识蒸馏与Dynamic KL,旨在通过自生成轨迹恢复量化大语言模型的长程推理能力。在2-bit和3-bit精度的Qwen3-1.7B、4B及8B模型测试中,OnQ在9个基准上均取得最高平均分;其中在2-bit精度下,Qwen3-8B较最强基线提升了10.26分。此外,该方案在测试中生成了更短的回复,并有效减少了截断与重复错误。
AI 根据报道生成 · 1 小时前更新
最新进展10月22日 12:00
研究团队发布OnQ方案,在Qwen3低比特测试中显著提升长程推理能力并减少截断与重复错误。报道时间线
沿着报道,了解事件的不同侧面。
10月22日
- arXiv 自然语言处理OnQ:通过自生成轨迹恢复大语言模型低比特量化推理能力
研究团队提出低比特恢复流程 OnQ,结合 on-policy 知识蒸馏与 Dynamic KL,通过自生成轨迹恢复量化大语言模型的长程推理能力。在 2-bit 和 3-bit 精度的 Qwen3-1.7B、4B 和 8B 测试中,OnQ 在 9 个基准上取得最高平均分,其中 2-bit 下 Qwen3-8B 较最强基线提升 10.26 分。该方案同时生成了更短的回复,并减少了截断与重复错误。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。