Skip to content
Hot storiesContinuously updated

研究团队提出HiFloat4大模型量化校准方法

1 reports1 reporting sourcesUpdated 3 hours ago

Start here

AI overview

2026年11月2日，研究人员针对采用三级缩放块浮点结构的HiFloat4（HiF4）量化格式，提出了HiGPTQ、HiAutoRound和HiFlatQuant三种大模型量化校准方法。报道显示，相较于直接进行HiF4转换，采用这三种方法能将HiF4格式与BF16格式之间的推理精度差距缩小至1%以内；同时，在多种模型架构及下游任务评估中，该方案的效果均超越了NVFP4格式。

AI-generated from reports · Updated 3 hours ago

Latest developmentsNov 2 13:00
研究人员提出三种HiFloat4校准方法，与BF16推理精度差距缩小至1%内且优于NVFP4。

Report timeline

Follow the reports to see different sides of the story.

Nov 2
  1. arXiv 人工智能
    基于 HiFloat4 格式的大模型量化校准

    针对采用三级缩放块浮点结构的 HiFloat4（HiF4）量化格式，研究人员提出了 HiGPTQ、HiAutoRound 和 HiFlatQuant 三种大模型量化校准方法。相较于直接 HiF4 转换，这三种方法将 HiF4 与 BF16 的推理精度差距缩小至 1% 以内，并在多种模型及下游任务上超越了 NVFP4 格式。

Story heat trend

Current heat 9·Comparable peak 10（Nov 2 14:00）·Comparable change, last 24 hours–

02.557.510Nov2Nov2Nov2Nov2

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.