热点事件持续更新
研究团队提出静态稀疏模型升级方案STAPLE
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
2026年10月12日，研究人员在arXiv发布论文，提出一种基于STEM的静态稀疏升级方案STAPLE。该方案通过在保留前馈网络（FFN）上投影的同时，将token索引嵌入作为残差路径加入预训练模型。测试结果显示，在OLMo-2 1B模型上，STAPLE相比持续稠密训练使HumanEval提升4.27分、MBPP提升2.80分、GSM8K提升2.27分；同时，该方法在OLMo-2 7B模型上也延续了相应的性能增益。
AI 根据报道生成 · 4 小时前更新
最新进展10月12日 12:00
研究团队提出STAPLE方案，在OLMo-2模型上验证了静态稀疏升级的性能增益。报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- arXiv 机器学习STAPLE：通过嵌入模块实现预训练模型的静态稀疏升级
研究人员提出基于 STEM 的静态稀疏升级方案 STAPLE，通过在保留 FFN 上投影的同时将 token 索引嵌入作为残差路径加入预训练模型。在 OLMo-2 1B 上，STAPLE 相比持续稠密训练使 HumanEval 提升 4.27 分、MBPP 提升 2.80 分、GSM8K 提升 2.27 分，并在 OLMo-2 7B 上延续了性能增益。
本事件热度走势
当前热度 9·可比范围峰值 10（10月12日 13:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。