热点事件持续更新
研究提出格式感知融合技术加速FP4预训练
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月2日，研究人员在 arXiv 发布论文，提出面向快速 FP4 预训练的格式感知融合（format-aware fusion）技术。该技术通过协同设计量化与布局来加速 FP4 模型的预训练过程。评测结果显示，在 Llama-3 家族 8B 模型的 160B tokens 预训练测试中，该方案最高速度达到 37.9K tokens/s/GPU，大幅优于 bfloat16 的 18.8K tokens/s/GPU。
AI 根据报道生成 · 2 小时前更新
最新进展10月2日 12:00
研究人员提出格式感知融合技术，在8B模型预训练中速度达37.9K tokens/s/GPU。报道时间线
沿着报道，了解事件的不同侧面。
10月2日
- arXiv 机器学习面向快速 FP4 预训练的格式感知融合技术
研究人员提出格式感知融合（format-aware fusion）技术，通过协同设计量化与布局加速 FP4 模型预训练。在 Llama-3 家族 8B 模型的 160B tokens 预训练评测中，该方案最快达到 37.9K tokens/s/GPU，远超 bfloat16 的 18.8K tokens/s/GPU。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。