跳到正文
原文
arXiv 人工智能· Duy Nguyen, Lesly Miculicich, Bhavana Dalvi Mishra, Shuo Li, Krishnamurthy Dj Dvijotham, Mohit Bansal, Tomas Pfister, Long T. Le·· 10 小时前AI 评分41

VEPA:面向终身 LLM 智能体护栏的可验证演进形式化策略框架

VEPA: Verified Evolving Formal Policy for Lifelong LLM Agent Guardrails

AI 导读

VEPA 框架提出一种面向终身 LLM 智能体护栏的可验证演进方法,通过可执行符号规则实现确定性的安全判定。该框架由 LLM 基于部署反馈生成策略补丁,经确定性验证器排除冲突,并通过证据感知层确保仅在证据充足时激活规则。在 ASSEBench-Safety、ASSEBench-Security 和 ATBench 基准测试中,VEPA 表现均持续超越基线。

来源:arXiv 人工智能 · arxiv.org