Hacker News · AI· gmays·· 13 days agoSelectedAI score73
Contrary Research 报告:AI 基准测试为何正在偏离真实能力评估
AI Benchmarks: Climbing the Wrong Hills
Not yet translated; shown in Chinese.
AI guide
Contrary Research 发布深度报告指出,受古德哈特定律与强化学习定向优化影响,主流 AI 基准测试正在与真实世界实用性严重脱节。从 Arena 众包投票被刷榜到 SWE-bench Verified 遭遇训练集污染,过分追求排名的现象不仅扭曲了模型演进方向,还导致大量测评结果失真。
Why it matters
报告系统复盘了主流基准测试因指标针对性优化与数据污染而失真的机制,为重新审视前沿模型评测体系提供了完整框架。
Source:Hacker News · AI · research.contrary.com