arXiv 机器学习· Piyush Sao, Narasinga Miniskar, Pedro Valero-Lara, Keita Teranishi, Sudip Seal·· 2 天前AI 评分35
用于量化矩阵乘法的乘积感知确定性舍入
Product-Aware Deterministic Rounding for Quantized Matrix Multiplication
AI 导读
研究提出用于量化矩阵乘法的乘积感知确定性舍入方法，通过零空间缩减与条件期望补全在多项式时间内优化乘积误差。在 K=1024 且 r=16 的平衡块测试中，该算法实现的抖动归一化中位数误差为 0.010，远低于最近舍入的 0.899，配合截断感知初始化可在 10% 截断率下将中位数归一化误差降低 43.4 倍。留出集实验表明，该方案在 4 种测试设定下误差均优于最近舍入。
来源：arXiv 机器学习 · arxiv.org