ホットトピック継続更新中
研究者提出连续扩散语言模型免训练长度外推方法RangeSWA
1 件の報道1 件の報道元9 時間前 更新
まずこの件を把握する
AI 概要
2026年11月2日，研究人员在arXiv发表研究，提出面向连续扩散语言模型的免训练长度外推方法 RangeSWA，旨在解决模型生成长度超出训练长度时出现的文本重复、语义漂移与质量退化问题。该方法结合了局部滑动窗口注意力、远端分块摘要和动态内容检索技术，并通过位置重映射、条件注意力校正以及去噪阶段自适应窗口调度来减轻生成退化现象。多模型实验结果显示，RangeSWA 能有效降低长文本生成的困惑度并抑制文本重复率。
AI が報道をもとに生成 · 8 時間前 更新
最新の進展11月2日 13:00
研究人员提出免训练长度外推方法RangeSWA，改善长文本生成质量。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月2日
- arXiv 自然语言处理RangeSWA：连续扩散语言模型的免训练长度外推方法
研究人员提出面向连续扩散语言模型的免训练长度外推方法 RangeSWA，解决生成长度超出训练长度时的文本重复、语义漂移与质量退化问题。该方法结合局部滑动窗口注意力、远端分块摘要和动态内容检索，并通过位置重映射、条件注意力校正及去噪阶段自适应窗口调度减轻生成退化。多模型实验表明，RangeSWA 能有效降低长文本生成的困惑度与文本重复率。
このストーリーのホット度の推移
現在のホット度 8·比較可能範囲のピーク 10（11月2日 14:00）·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。