Skip to content
arXiv 机器学习· Gaurav Kolhe, Cansu Demirkiran, Shubhi Tyagi, Sulaiman Sadiq, Boyao Wang, Richard Wang, Maximiliana Behnke, Shreyas Labhsetwar, Levi Melnick, Matthew Mattina, Partha Maji·· 17 hours agoAI score42

MXCode:面向大规模 MX 原生推理的矢量量化框架

MXCode: Vector Quantization for MX-Native Inference at Scale

Not yet translated; shown in Chinese.

AI guide

MXCode 框架将超低比特矢量量化(VQ)与 MX 原生 FP4 计算结合,无需物化中间高精度权重即可实现单权重约 2-bit 存储。该框架包含 PostScale、PreScale 与 PreScale+ 三种策略,并在 Qwen3 (235B)、DeepSeek-R1 (671B) 和 GLM-5.2 (753B) 上完成验证。

Source:arXiv 机器学习 · arxiv.org