热点事件持续更新
研究团队提出超低比特大模型在线量化蒸馏框架OnlineQAT
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月8日，arXiv发布的相关研究提出了一种面向超低比特大语言模型的在线量化框架OnlineQAT。该框架采用两阶段设计：第一阶段通过block-wise QAT获得模型的低比特初始化；第二阶段则在学生模型生成的响应上，利用全精度教师模型提供的reverse-KL信号进行on-policy蒸馏，以此优化超低比特大语言模型的表现。
AI 根据报道生成 · 3 小时前更新
最新进展10月8日 12:00
研究团队提出OnlineQAT两阶段框架，通过On-Policy蒸馏优化超低比特大模型。报道时间线
沿着报道，了解事件的不同侧面。
10月8日
- arXiv 自然语言处理OnlineQAT：面向超低比特大语言模型的 On-Policy 蒸馏框架
研究提出面向超低比特大语言模型的两阶段量化框架 OnlineQAT，先通过 block-wise QAT 获得低比特初始化，再在学生模型生成的响应上由全精度教师模型提供 reverse-KL 信号进行 on-policy 蒸馏。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。