Hacker News · AI· sonabinu·· 4 小时前AI 评分59
专访计算机科学家 Moritz Hardt:推动 AI 基准测试从经验玄学走向规范科学
He Wants AI Benchmarking to Be a Science, Not a Dark Art
AI 导读
计算机科学家 Moritz Hardt 指出,AI 基准测试的绝对分数缺乏实际度量意义,历史上仅靠相对排名的稳定性推动行业发展。在大语言模型时代,由于训练数据不再统一且各家针对榜单过度优化,排名的可靠性已彻底失效。他建议引入类似高原训练的预备机制,在测试前为所有模型统一提供基准相关数据训练,以此拉平竞争起跑线并重构排名的有效性。
来源:Hacker News · AI · quantamagazine.org