跳到正文
原文
Hacker News · AI· bhu8·· 3 小时前精选AI 评分73

大模型刷榜现象的统计分析:基于发布时间差检验基准过拟合

A Statistical Analysis of LLM Benchmaxxing

AI 导读

一项针对大语言模型刷榜行为的统计分析显示,Google 等厂商的模型在发布前已公开的基准上得分偏高,但在发布后推出的新基准上表现有所回落。研究基于 Epoch Capabilities Index 引入刷榜系数,发现 Google 模型的基准溢出效应约为 1.41 个 ECI 点,如果剔除该效应,相关模型在基准榜单上的得分将下降约 3 到 5 个百分点。

推荐理由

文章通过对比模型在发布前后基准的表现差异构建量化系数,为检验大模型是否对测试集过拟合提供了统计方法。

来源:Hacker News · AI · llemre.com