热点事件持续更新
研究团队提出稀疏注意力长上下文训练系统HyScale
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月26日，arXiv发布关于长上下文训练系统HyScale的研究成果。HyScale主要针对可学习稀疏注意力场景，通过引入HyTopK与selection replay机制，消除了选择计算瓶颈。实验评估显示，在512张H20 GPU上训练1M token序列时，HyScale将模型GLM-5.1的训练速度较Megatron-LM提升了2.07倍。
AI 根据报道生成 · 3 小时前更新
最新进展10月26日 12:00
研究团队发布HyScale系统，在512张H20 GPU上将GLM-5.1长上下文训练速度提升2.07倍。报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- arXiv 人工智能HyScale：扩展可学习稀疏注意力的长上下文训练
HyScale 是针对可学习稀疏注意力的长上下文训练系统，通过 HyTopK 与 selection replay 机制消除了选择计算瓶颈。在 512 张 H20 GPU 上训练 1M token 序列时，HyScale 将 GLM-5.1 的训练速度较 Megatron-LM 提升 2.07 倍。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。