ホットトピック継続更新中
研究团队提出高效上下文并行方法Split-KV并开源
1 件の報道1 件の報道元8 時間前 更新
まずこの件を把握する
AI 概要
2026年11月5日，研究团队在arXiv发布成果，提出面向扩散草稿模型训练的精确上下文并行（CP）方法Split-KV。该方法通过将key/value分片保留在本地，使每层注意力的通信量受限于query大小，并与上下文长度解耦。此外，该方案配合成本感知的LPT调度策略，将负载不平衡度降至1%以下。测试显示，在CP规模达到64时，该方法可保持85%至91%的弱扩展效率，相比最快基线最高实现3.67倍加速。目前相关代码已开源。
AI が報道をもとに生成 · 8 時間前 更新
最新の進展11月5日 13:00
研究团队提出上下文并行方法Split-KV，最高实现3.67倍加速并开源代码。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月5日
- arXiv 人工智能Split-KV：面向扩散草稿模型训练的高效上下文并行方法
研究提出了面向扩散草稿模型训练的精确上下文并行（CP）方法 Split-KV，通过将 key/value 分片保留在本地，使每层注意力通信量受限于 query 大小且与上下文长度解耦。该方法配合成本感知的 LPT 调度策略将负载不平衡度降至 <1%，在 CP 规模为 64 时保持 85%–91% 的弱扩展效率，比最快基线实现最高 3.67x 加速，相关代码已开源。
このストーリーのホット度の推移
現在のホット度 8·比較可能範囲のピーク 10（11月5日 14:00）·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。