arXiv 自然语言处理· Md Rayhanul Masud, Mst Suraiya Akter Shefa·· 1 day agoAI score54
模型量化重构潜在学习偏好：安全审计须匹配实际部署精度
Audit at the Precision You Deploy: Quantization Reshapes a Subliminally Learned Preference
Not yet translated; shown in Chinese.
AI guide
最新研究表明模型量化会显著改变潜在学习偏好的外在表达，导致 16-bit 精度下的安全审计无法可靠约束实际部署风险。在以 Qwen2.5-7B-Instruct 开展的实验中，8-bit 量化表现相对稳定，但 4-bit 下 HQQ 将隐藏偏好的净强度放大至 16-bit 的约 1.3 倍，而 NF4 则将其削弱至约 0.3 倍。
Source:arXiv 自然语言处理 · arxiv.org