热点事件持续更新
研究人员提出LLM混合精度量化框架TileQuant
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
2026年11月6日，研究人员在arXiv发布论文，提出无需训练的LLM混合精度量化框架TileQuant。该框架将硬件对齐的2D权重tile作为精度分配单元，通过离线校准将高评分tile保持在16-bit，其余部分使用8-bit，并借助定制内核减少内存数据传输。实验表明，TileQuant在语言建模、推理与长上下文检索等任务中均有效保持了模型质量，并达到了原模型2.66倍的生成吞吐量。
AI 根据报道生成 · 9 小时前更新
最新进展11月6日 13:00
研究人员提出TileQuant框架，通过tile级混合精度量化实现原模型2.66倍吞吐量。报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- arXiv 机器学习TileQuant：以 Tile 作为精度分配单元的 LLM 混合精度训练后量化
无需训练的 LLM 混合精度量化框架 TileQuant 提出将硬件对齐的 2D 权重 tile 作为精度分配单元。该框架通过离线校准将高评分 tile 保持在 16-bit，其余使用 8-bit，并借助定制内核减少内存数据传输。实验表明，TileQuant 达到了原模型 2.66x 的生成吞吐量，在语言建模、推理与长上下文检索等任务中均有效保持质量。
本事件热度走势
当前热度 8·可比范围峰值 10（11月6日 14:00）·近 24 小时可比范围变化–
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。