arXiv 机器学习· Anthony Kostal-Vazquez, Vassil Dimitrov, Branden Butler·· 5 小时前AI 评分34
面向机器学习应用的代数整数代数整数数制量化研究
Algebraic Integer Quantization for Machine Learning Applications
AI 导读
研究人员提出用于高可配置与高精度压缩计算的代数整数数制（AINF），并推出面向大语言模型（LLM）推理的有损压缩格式代数整数量化（AIQ）。AINF 可直接简化为纯整数运算以实现无误差乘加计算，团队据此开发了矩阵乘法引擎。在相同参数比特预算下，采用二次代数整数的 AIQ 在多模型评测中取得了与行业标准 MX 格式相当的精度。
来源：arXiv 机器学习 · arxiv.org