研究揭示软决策树零梯度生长缺陷及优化策略

2026年10月，arXiv发表的一项研究评估了结构渐增式分类器的四种生长策略。研究证明，软决策树直接加深叶节点会导致门控梯度恒为零而无法学习，该缺陷导致模型在 Iris、Wine 和 Digits 数据集上的准确率分别损失达 19.6、19.1 和 55.6 个百分点；通过引入微小随机扰动即可修复此问题。此外，研究还分析了其他生长策略：拟合残差可缩小网络规模，按最大误差分裂能提升稀疏度，而引入统计显著性要求则会导致生成的树模型更大且精度变差。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。