arXiv 人工智能· Chao Shang, Wanyu Du, Yi Zhang, Sandesh Swamy·· 3 小时前AI 评分43
AgentPolicyForge:从可执行环境构建策略基准与自适应防护
AgentPolicyForge: From Executable Environments to Policy Benchmarks and Adaptive Guards
AI 导读
研究团队提出 AgentPolicyForge 框架,利用可执行环境构建基准测试并迭代训练 AI 智能体策略防护模型。基于该框架构建的 PolicyGym 涵盖 10 个策略族,包含 698 个训练场景与 254 个保留测试场景。实验显示,最终防护配置使攻击成功率相对降低 40-44%,且良性拒绝少于仅依赖策略提示词的方案。
来源:arXiv 人工智能 · arxiv.org