arXiv 机器学习· Shinyoung Kang, Junhyung Ahn, Yujun Kim, Jungho Park·· 10 hours agoAI score40
整数精确微缩放：在 INT8 矩阵单元上运行 MXFP4 语言模型
Integer-Exact Microscaling: Running MXFP4 Language Models on INT8 Matrix Units
Not yet translated; shown in Chinese.
AI guide
研究提出整数精确微缩放技术，将 MXFP4 语言模型线性层转为单次 INT8 GEMM，可在 Apple M5 等 INT8 矩阵单元上运行。在 125B 参数 MoE 模型 Qwen3.8-Flash-Next 上全矩阵量化后 GSM8K 达 94.8%（优于 MLX MXFP4 的 91.0%）。
Source:arXiv 机器学习 · arxiv.org