arXiv 自然语言处理· Hao Lu, Weixing Zhu, Ruiyang Li·· 9 時間前AI スコア35
评估契约与评估杠杆:结构化预测的切片差距读数可在模型不变时发生变动
Evaluation Contracts and Evaluation Leverage: Sliced-Gap Readings in Structured Prediction Can Move Without Model Change
未翻訳のため中国語で表示しています。
AI ガイド
研究表明结构化预测中的切片性能差距由模型与评估契约共同决定,在模型预测冻结的情况下,仅更换黄金标准版本就会引发排名反转(+0.0363)。团队提出以排名反转条件为核心的审计评估读数(AER)流程,并发布预注册工作流 EvalLever。在 LLM-as-judge 网格测试中,该审计集成将不稳定模型对从 13-15 对直接降至 0 对。
出典:arXiv 自然语言处理 · arxiv.org