arXiv 人工智能· Yu Cheng, Yongkang Hu, Shuaijie Ma, Zhihang Lin, Weicheng Meng, Jingyang Qiao, Jiuan Zhou, Yushuo Zhang, Yihang Chen, Weilin Luo, Kun Shao, Dong Li, Zhizhong Zhang, Yuan Xie, Zhaoxia Yin·· 10 小时前AI 评分36
SafeCoEvo：测试时协同演化 LLM 智能体安全 Harness 与 Guard
SafeCoEvo: Co-Evolving Safety Harnesses and Guards for LLM Agents at Test-Time
AI 导读
针对 LLM 智能体在真实部署中的安全适应问题，研究者提出测试时 Harness-Guard 协同演化框架 SafeCoEvo。该框架通过短期快速适应的 S-Harness 与长期沉淀参数化风险判断能力的 GuardVPO，从累积的运行时经验中持续演化。相比最强基线，SafeCoEvo 将不安全结果率降低了 10.05%，同时将任务成功率提升了 12.15%。
来源：arXiv 人工智能 · arxiv.org