arXiv 机器学习· Xu Cao, Wenxuan Xiao·· 6 小时前AI 评分34
在不同模型表示间复用校准增益
Reusing Calibration Gains across Model Representations
AI 导读
研究提出一种在同模型不同表示间复用尺度校准增益的方法,无需接收端优化即可直接迁移正向分组增益并保留原有量化布局。在 Qwen3-1.7B 浮点与 GPTQ INT3 双向迁移测试中,该方法在 WikiText 和 C4 上保留了 76.9-90.5% 的文本损失改进。在 Llama-3.2-3B 对照实验中,交叉安装进一步保留了 98.6-99.3% 的校准收益。
来源:arXiv 机器学习 · arxiv.org