分类器生长的四种方式及为何其中一种无法学习

研究评估了结构渐增式分类器的四种生长策略，证明软决策树直接加深叶节点会导致门控梯度恒为零而无法学习。该缺陷使其在 Iris、Wine 和 Digits 上准确率损失达 19.6、19.1 和 55.6 个百分点，引入微小随机扰动即可修复。此外，拟合残差可缩小网络规模，按最大误差分裂能提升稀疏度，而引入统计显著性要求则会导致树更大且精度变差。