跳到正文
热点事件持续更新

研究揭示LLM裁判综合得分掩盖单项裁决显著波动

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

2026年10月23日,arXiv发表的一项针对 Arena-Hard 的 LLM 裁判系统性调整研究指出,以 GPT-4.1 为裁判评估 500 个 Arena-Hard v2.0 提示词时,相近的综合得分掩盖了单项判决的显著变化。研究发现,在温度为 0 的默认设置下重复运行测试,综合得分虽然仅变动约 1 分,却导致 21.2% 的提示词胜平负结果发生改变。此外,去除推理等提示词调整使总分进一步下降 4.09 分。该研究证实,看似稳定的综合高分并不能证明单项裁决具备可重复性。

AI 根据报道生成 · 7 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. arXiv 自然语言处理
    综合得分背后:系统性调整 Arena-Hard 的 LLM 裁判揭示了什么

    研究表明,以 GPT-4.1 为裁判评估 500 个 Arena-Hard v2.0 提示词时,相近的综合得分掩盖了单项判决的显著变化。在温度为 0 的默认设置下重复运行,综合得分虽仅变动约 1 分,却改变了 21.2% 提示词的胜平负结果。去除推理等提示词调整更令总分下降 4.09 分,证实稳定的综合得分无法证明单项裁决具有可重复性。

本事件热度走势

当前热度 8·可比范围峰值 10(10月23日 13:00)·近 24 小时可比范围变化 –

02.557.51010月23日13:0010月23日15:0010月23日16:0010月23日18:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。