arXiv 机器学习· Min-Young Yu·· 8 小时前AI 评分39
PVST：通过可验证策略奖励实现 AI 智能体合规的自我训练
Policy-Verified Self-Training: Learning Agent Compliance from Verifiable Policy Rewards
AI 导读
策略验证自我训练（PVST）将策略验证器的判定转化为可验证奖励，无需更强教师模型或人工标注即可训练合规的 AI 智能体。在 AgentDojo 提示词注入评测中，PVST 对 Qwen3-8B 训练后将违规轨迹从 37.2% 降至 10.3 ± 0.9%，攻击成功率从 12.4% 降至 0.5%。该策略在未见过的攻击模板下依然有效，并使验证器干预率从 39.2% 降至 8.8%。
来源：arXiv 机器学习 · arxiv.org