ホットトピック継続更新中
研究人员提出LLM混合精度量化框架TileQuant
1 件の報道1 件の報道元11 時間前 更新
まずこの件を把握する
AI 概要
2026年11月6日，研究人员在arXiv发布论文，提出无需训练的LLM混合精度量化框架TileQuant。该框架将硬件对齐的2D权重tile作为精度分配单元，通过离线校准将高评分tile保持在16-bit，其余部分使用8-bit，并借助定制内核减少内存数据传输。实验表明，TileQuant在语言建模、推理与长上下文检索等任务中均有效保持了模型质量，并达到了原模型2.66倍的生成吞吐量。
AI が報道をもとに生成 · 10 時間前 更新
最新の進展11月6日 13:00
研究人员提出TileQuant框架，通过tile级混合精度量化实现原模型2.66倍吞吐量。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月6日
- arXiv 机器学习TileQuant：以 Tile 作为精度分配单元的 LLM 混合精度训练后量化
无需训练的 LLM 混合精度量化框架 TileQuant 提出将硬件对齐的 2D 权重 tile 作为精度分配单元。该框架通过离线校准将高评分 tile 保持在 16-bit，其余使用 8-bit，并借助定制内核减少内存数据传输。实验表明，TileQuant 达到了原模型 2.66x 的生成吞吐量，在语言建模、推理与长上下文检索等任务中均有效保持质量。
このストーリーのホット度の推移
現在のホット度 8·比較可能範囲のピーク 10（11月6日 14:00）·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。