arXiv 机器学习· Gaurav Kolhe, Cansu Demirkiran, Shubhi Tyagi, Sulaiman Sadiq, Boyao Wang, Richard Wang, Maximiliana Behnke, Shreyas Labhsetwar, Levi Melnick, Matthew Mattina, Partha Maji·· 17 hours agoAI score42
MXCode:面向大规模 MX 原生推理的矢量量化框架
MXCode: Vector Quantization for MX-Native Inference at Scale
Not yet translated; shown in Chinese.
AI guide
MXCode 框架将超低比特矢量量化(VQ)与 MX 原生 FP4 计算结合,无需物化中间高精度权重即可实现单权重约 2-bit 存储。该框架包含 PostScale、PreScale 与 PreScale+ 三种策略,并在 Qwen3 (235B)、DeepSeek-R1 (671B) 和 GLM-5.2 (753B) 上完成验证。
Source:arXiv 机器学习 · arxiv.org