热点事件持续更新
研究人员提出LLM非结构化剪枝方法LADDER
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
2026年10月22日，arXiv发表研究，提出用于大语言模型非结构化训练后剪枝的方法LADDER。该方法通过递增分配非均匀稀疏度并生成嵌套mask，以此控制高稀疏度下的模型性能衰减。研究以SparseGPT作为候选生成后端，在5款涵盖OPT、Llama和Qwen的模型上测试了10%至90%的稀疏度。测试结果表明，LADDER在70%以上的高稀疏度场景下鲁棒性显著更强；同时，在经过后续蒸馏后，该方法仍能在其中4款模型中保持优势，并提升了综合零样本准确率。
AI 根据报道生成 · 1 小时前更新
最新进展10月22日 12:00
研究提出剪枝方法LADDER，在70%以上高稀疏度下鲁棒性显著更强并提升零样本准确率。报道时间线
沿着报道，了解事件的不同侧面。
10月22日
- arXiv 机器学习构建用于 LLM 非结构化训练后剪枝的嵌套式 LADDER
研究提出大语言模型非结构化训练后剪枝方法 LADDER，通过递增分配非均匀稀疏度并生成嵌套 mask，控制高稀疏度下的性能衰减。该方法以 SparseGPT 为候选生成后端，在 5 款 OPT、Llama 和 Qwen 模型上测试了 10-90% 稀疏度。结果显示，LADDER 在 70% 以上高稀疏度下鲁棒性显著更强，且经后续蒸馏后仍能在 4 款模型中保持优势并提升综合零样本准确率。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。