跳到正文
原文
arXiv 机器学习· Ziyuan Wang, Fredrik D. Johansson·· 3 小时前AI 评分36

MotherTree:在合成数据上通过元学习改进决策树训练

MotherTree: Meta-learning on synthetic data improves decision tree training

AI 导读

研究者提出 MotherTree,这是一种通过在合成先验数据上元学习来诱导决策树的表格 Transformer,可在单次前向传播中直接输出硬轴对齐决策树。MotherTree 无需参考树监督即可预训练,在基准测试中表现可匹敌递归划分、基于梯度的树学习以及表格基础模型蒸馏等方法。将其作为初始化器进行任务微调后,在所有基准和样本规模下均优于从头训练的梯度学习器。

来源:arXiv 机器学习 · arxiv.org