arXiv 自然语言处理· Yichen Wang, Tenghao Huang, Vishakh Padmakumar, Mina Lee·· 8 小时前AI 评分38
通过长尾表现评估 LLM 创造力
Evaluating LLM Creativity through Long-Tail Performance
AI 导读
研究提出将 LLM 创造力形式化为参考输入-输出分布长尾区域中的任务特定表现，并基于 15 个基准和 26 个开源模型进行了实证评估。实验表明创造力基准位于更靠后的长尾区域，且长尾子集的模型排名与 LM-Arena 的人类创造力判断更为一致。据此提出的低成本诊断指标 q@Tail($\alpha$) 可衡量现有基准长尾部分的平均任务质量。
来源：arXiv 自然语言处理 · arxiv.org