arXiv 机器学习· Sara Rezaeimanesh, Chad Klochko, Kundan Thind, Mohammad Ghassemi·· 3 小时前AI 评分36
INCONVENIENT:用于评估 LLM 在便利样本下泛化能力的基准
INCONVENIENT: A Benchmark to Assess LLM Generalization Capabilities from Convenience Samples
AI 导读
研究人员推出针对便利样本偏差的表格评测基准 INCONVENIENT,用于评估大语言模型在有偏训练数据下的泛化鲁棒性。该基准直接扰动训练分布中的特征与目标关系,保留原始总体分布作为部署环境,支持显式控制关系偏移的方向与严重程度。数据集涵盖 200 个表格分类和回归数据集,可生成约 15,500 个导致下游性能显著下降的偏移训练分布。
来源:arXiv 机器学习 · arxiv.org