arXiv 机器学习· Jonathan Tapson·· 5 小时前AI 评分35
迟解码单次乘：重新思考量化权重的点积计算
Decode Late, Multiply Once: Rethinking the Dot Product for Quantized Weights
AI 导读
研究提出一种量化权重点积重构方法，将长度为 n 的 k-bit 权重编码点积计算降为 n+2^k 次加法以及至多 2^k 次解码与乘法。该方法将激活值累加后在末端统一执行融合解码与单次乘法，使乘法器数量减少 n/2^k，局部权重内存最高缩减 w_d/k。所提出的 SA-PE 架构经 FPGA 综合验证，跨 PE 共享乘法器可显著节省硬件资源。
来源：arXiv 机器学习 · arxiv.org