跳到正文
原文
arXiv 机器学习· Wang Wei, Harry Yang, Tiankai Yang, Samyadeep Basu, Hongjie Chen, Andy Zhao, Franck Dernoncourt, Ryan A. Rossi, Hoda Eldardiry·· 6 小时前AI 评分37

FlexRouter:通过学习互补模型集实现灵活 LLM 路由

FlexRouter: Learning Complementary Model Sets for Flexible LLM Routing

AI 导读

研究团队提出大语言模型路由框架 FlexRouter,通过显式建模模型互补性来优化答案覆盖率,确保至少有一个选中模型给出正确响应。该框架基于行列式点过程(DPP)捕捉模型能力与冗余性,在推理时可自适应确定子集规模而无需预设预算。在 RouterEval 基准测试中,FlexRouter 在域内与跨域任务上均取得了更高覆盖率和更低冗余度。

来源:arXiv 机器学习 · arxiv.org