本文へスキップ
原文
arXiv 自然语言处理· Hao Lu, Weixing Zhu, Ruiyang Li·· 9 時間前AI スコア35

评估契约与评估杠杆:结构化预测的切片差距读数可在模型不变时发生变动

Evaluation Contracts and Evaluation Leverage: Sliced-Gap Readings in Structured Prediction Can Move Without Model Change

未翻訳のため中国語で表示しています。

AI ガイド

研究表明结构化预测中的切片性能差距由模型与评估契约共同决定,在模型预测冻结的情况下,仅更换黄金标准版本就会引发排名反转(+0.0363)。团队提出以排名反转条件为核心的审计评估读数(AER)流程,并发布预注册工作流 EvalLever。在 LLM-as-judge 网格测试中,该审计集成将不稳定模型对从 13-15 对直接降至 0 对。

出典:arXiv 自然语言处理 · arxiv.org