arXiv 人工智能· Taeung Yoon, Yupeng Zhang, Xiaojing Liao·· 10 小时前AI 评分39
ZK-LLM 下的量化评估：面向可验证隐私推理的零知识友好量化研究
Bits Under ZK-LLM: Evaluating Zero-Knowledge-Friendly Quantization for Verifiable Private LLM Inference
AI 导读
研究人员系统评估了面向可验证隐私推理的 ZK-LLM 友好量化方案，测试了 Qwen2.5-14B 及 MoE 模型 Qwen3-30B-A3B 等 9 个语言模型。实验发现激活值精度比权重更敏感，非线性查找表近似是效用下降主因，且 RMSNorm 查找构成主要瓶颈。研究表明降低位宽并不必然按比例降低端到端证明开销，需采用算子感知的精度选择策略。
来源：arXiv 人工智能 · arxiv.org