arXiv 自然语言处理· Charlie Summers, Prajwal Raghunath, Aaditya Pai, Mayur Kulkarni, Zhuo Zhang, Oliver Kennedy, Eugene Wu·· 1 天前AI 评分41
Environment Steering：利用数据流控制提升 LLM Agent 效用与安全性
Environment Steering: Using Data Flow Control to Improve Agent Utility and Safety
AI 导读
研究团队提出 Environment Steering 机制，通过将 LLM Agent 与框架运行状态建模为数据库表并跟踪记录级数据流，在运行时依据声明式策略实施安全控制。当检测到违规时，系统会基于策略与上下文反馈引导 Agent 转向安全路径。在 AgentDyn 评测中，该方法在实现 0% 攻击成功率的同时提升了任务成功率。
来源：arXiv 自然语言处理 · arxiv.org