arXiv 自然语言处理· Rishabh Sinha·· 9 小时前AI 评分37
暴露不等于承诺：工具调用智能体潜在监控器的双分层评估
Exposure Is Not Commitment: Double-Stratified Evaluation of Latent Monitors for Tool-Using Agents
AI 导读
针对工具调用智能体内部监控评测结论的冲突，研究提出将注入暴露与行为承诺分离的双分层评估方案。在 Qwen AgentDojo 上，重训后的探测器能提前两步预测不安全工具调用（AUROC 达 0.853），在 Mistral-7B 和 OLMo-2-7B 上分别达 0.896 与 0.912。实验表明未分层评估会夸大监控能力，朴素对比训练大多仅能识别是否暴露，而无法准确预测实际违规。
来源：arXiv 自然语言处理 · arxiv.org