热点事件持续更新
研究揭示小语言模型深度剪枝后能力损伤与恢复规律
1 篇报道1 个报道来源14 小时前更新
先了解这件事
AI 综述
2026年11月3日，arXiv发布针对Llama-3.2-1B等1.2-1.7B参数规模小型大语言模型的研究。研究表明，深度剪枝会导致模型的函数调用与数学推理能力彻底崩溃，保留度仅为0.00至0.07。在后续的微调修复阶段，研究发现全架构添加低秩适配器相比仅微调最后三块，最高可多保留0.18的能力；同时，在同等训练token预算下，延长均匀微调的效果匹敌或优于复杂的规划分配策略。
AI 根据报道生成 · 10 小时前更新
最新进展11月3日 13:00
研究指出深度剪枝致模型数学推理等崩溃，全架构低秩适配修复效果更佳。报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- arXiv 自然语言处理小型大语言模型深度剪枝的能力损耗与恢复研究
对 Llama-3.2-1B 等 1.2-1.7B 模型的研究发现，深度剪枝会导致函数调用和数学推理能力彻底崩溃（保留度仅 0.00-0.07）。后续微调修复中，全架构添加低秩适配器相比仅微调最后三块最高可多保留 0.18 的能力。在同等训练 token 预算下，延长均匀微调的效果匹敌或优于复杂的规划分配策略。
本事件热度走势
当前热度 7·可比范围峰值 9（11月3日 18:00）·近 24 小时可比范围变化–
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。