研究团队提出在INT8硬件上运行MXFP4模型的量化加速方案
Start here
2026年11月3日，arXiv机器学习领域发表研究《整数精确微缩放：在 INT8 矩阵单元上运行 MXFP4 语言模型》。该研究提出了一种名为“整数精确微缩放”的技术，能将 MXFP4 语言模型中的线性层转换为单次 INT8 通用矩阵乘法（GEMM），从而实现让 MXFP4 模型在 Apple M5 等配备 INT8 矩阵单元的硬件设备上直接运行。测试结果显示，在 125B 参数的 MoE 模型 Qwen3.8-Flash-Next 上进行全矩阵量化后，该技术在 GSM8K 基准测试中达到 94.8% 的表现，高于 MLX MXFP4 的 91.0%。
AI-generated from reports · Updated 9 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 机器学习整数精确微缩放：在 INT8 矩阵单元上运行 MXFP4 语言模型
研究提出整数精确微缩放技术，将 MXFP4 语言模型线性层转为单次 INT8 GEMM，可在 Apple M5 等 INT8 矩阵单元上运行。在 125B 参数 MoE 模型 Qwen3.8-Flash-Next 上全矩阵量化后 GSM8K 达 94.8%（优于 MLX MXFP4 的 91.0%）。
Story heat trend
Current heat 7·Comparable peak 9（Nov 3 18:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.