arXiv 机器学习· Zhangyang Peng, Jingze Shi, Tongyi Zhang, Yuyu Luo·· 8 小时前AI 评分31
GIST：面向表格基础模型的生成器状态感知监督方法
GIST: Generator-state-Informed Supervision for Tabular Foundation Models
AI 导读
研究者提出面向表格基础模型（TFMs）的生成器状态感知监督方法 GIST，利用中间生成器状态在条件标签分布上平均 query 损失，以减少预训练采样变异性。该方法在无需改变模型架构与推理的前提下，在 TabArena 和 TALENT 基准上提升了三种架构的平均排名。在配对数据集对比中，GIST 相比硬标签对照组取得了 62.1% 的胜率。
来源：arXiv 机器学习 · arxiv.org