跳到正文
原文
arXiv 自然语言处理· Soroush Ebadian, Parand A. Alamdari, Joe Benton, Hailey Joren·· 10 小时前AI 评分48

Tampered ML:评估 LLM 对机器学习研究的评判能力

Tampered ML: Evaluating LLM Judgment of Machine Learning Research

AI 导读

研究人员推出评测基准 Tampered ML,包含 1,858 个实验提案对比对,用于评估 LLM 识别机器学习研究方法缺陷的能力。评测显示前沿模型虽高于随机水平但仍不可靠,其中 Opus 5 准确率为 77.9%。此外,模型对展示顺序高度敏感,且倾向于偏好表面看起来更具体、透明或传统的有缺陷设计。

来源:arXiv 自然语言处理 · arxiv.org