本文へスキップ
ホットトピック継続更新中

研究团队提出稀疏文本扩散架构DualBudget

1 件の報道1 件の報道元15 時間前 更新

まずこの件を把握する

AI 概要

2026年11月2日发表于arXiv的研究提出了名为DualBudget的稀疏文本扩散配置。该架构将长上下文计算开销解构为注意力图连接与每token专家激活双重预算。在科学摘要与多跳问答等任务评估中,DualBudget在16K长度内优于对比基线,但其性能会随长度增加出现可测量的下降。成本记录显示,该方法相比DiffuSeq降低了20%的开销,消融实验在三项得分中呈现混合变化。

AI が報道をもとに生成 · 15 時間前 更新

報道タイムライン

報道をたどり、出来事のさまざまな側面を知る。

11月2日
  1. arXiv 自然语言处理
    双重预算下的稀疏文本扩散:上下文连通性与专家激活

    一项新研究提出了名为 DualBudget 的稀疏文本扩散配置,将长上下文计算开销解构为注意力图连接与每 token 专家激活双重预算。该方法在科学摘要与多跳问答等任务中评估,在 16K 长度内优于对比基线,但性能随长度增加出现可测量的下降。成本记录显示其相比 DiffuSeq 降低了 20% 的开销,消融实验在三项得分中呈现混合变化。

このストーリーのホット度の推移

現在のホット度 7·比較可能範囲のピーク 10(11月2日 14:00)·直近24時間の比較可能な変化–

02.557.51011月2日14:0011月2日19:0011月2日23:0011月3日04:00

トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。