跳到正文
原文
arXiv 自然语言处理· Jianxing Chen, Xiao Yu, Shipra Agrawal, Zhou Yu·· 1 天前AI 评分41

SCOUT:协同推理与工具使用的电脑操作安全验证框架

SCOUT: Synergizing Reasoning and Tool-Use for Computer-Use Safety

AI 导读

两阶段智能体安全验证器 SCOUT 通过协同细则推理生成与环境工具探测,用于检测电脑操作智能体的非预期危害行为。在 AutoElicit-Bench 基准上,SCOUT 取得 75.4 unsafe F1 和 74.5 completion F1,并在 OS-Blind 上实现 76.4% 的不安全检测准确率。

来源:arXiv 自然语言处理 · arxiv.org