arXiv 人工智能· Boris Radovi\v{c}, Marco Canini, Veljko Pejovi\'c·· 18 小时前AI 评分42
SLM 应该处于主导地位吗?本地模型在云端编写的智能体程序中充当解释器的研究
Should SLMs be in the Driver's Seat? A Study of Local Models as Interpreters in Cloud-Written Agent Programs
AI 导读
研究提出一种介于纯云端与纯端侧之间的新型 AI 智能体架构,由云端编写程序,并通过普通函数调用将用户数据的局部解释任务交由本地 SLM 处理。在 AppWorld 基准测试中,该方法在评估的全部 6 种主干模型与测试集组合中将纯代码智能体的成功率最高提升了 14.9pp。该方案在确保用户私有数据完全保留在本地设备上的同时,大幅缩小了与云端托管 ReAct 循环的性能差距。
来源:arXiv 人工智能 · arxiv.org