跳到正文
原文
arXiv 人工智能· Victor Shea-Jay Huang, Rongqing Li, Zhangyue Yin, Kelong Mao, Yaqi Zhao, Xinyuan Wang, Yao Yin, Lirui Luo, Renrui Zhang, Hongsheng Li·· 8 小时前AI 评分60

SWE-Shift:评估编码智能体在动态演化工作区中表现的基准测试

SWE-Shift: Evaluating Coding Agents in Evolving Workspaces

AI 导读

研究团队推出基准测试 SWE-Shift,专门评估编码智能体在执行过程中应对代码、依赖、运行状态和需求等动态变更的能力。该基准涵盖 12 类变更的 120 个场景,并在 9 个干预节点测试了 17 个编码智能体系统。测试结果显示所有系统在发生环境变更后的表现均明显下降,其中 GPT-6 Astra 成功率从 67.35% 降至 24.79%,且工具变更和陈旧证据导致所有系统的配对成功率归零。

来源:arXiv 人工智能 · arxiv.org