跳到正文
原文
arXiv 机器学习· Teng-Ruei Chen·· 17 小时前AI 评分40

强推理模型加入模型池:LLM 路由中的微小联合溢价与高昂失控生成

When Strong Reasoners Join the Pool: Small Union Premiums and Costly Runaway Generations in LLM Routing

AI 导读

一项针对 LLM 路由的研究显示,在 MATH-500 上引入准确率达 96.1% 的 Nemotron Nano 9B v2 与 Nemotron Super 49B v1.5 推理模型后,模型池的联合溢价仅为 0.215-0.588 个百分点。

来源:arXiv 机器学习 · arxiv.org