Hacker News · AI· bhu8·· 3 小时前精选AI 评分73
大模型刷榜现象的统计分析:基于发布时间差检验基准过拟合
A Statistical Analysis of LLM Benchmaxxing
AI 导读
一项针对大语言模型刷榜行为的统计分析显示,Google 等厂商的模型在发布前已公开的基准上得分偏高,但在发布后推出的新基准上表现有所回落。研究基于 Epoch Capabilities Index 引入刷榜系数,发现 Google 模型的基准溢出效应约为 1.41 个 ECI 点,如果剔除该效应,相关模型在基准榜单上的得分将下降约 3 到 5 个百分点。
推荐理由
文章通过对比模型在发布前后基准的表现差异构建量化系数,为检验大模型是否对测试集过拟合提供了统计方法。
来源:Hacker News · AI · llemre.com