跳到正文
原文
arXiv 人工智能· Siyi Gu, Kunhan Gao, Chao Peter Yang, Sukanta Ganguly, Rex Ying, Arman Cohan·· 10 小时前AI 评分40

StepSafe:通过上下文感知安全推理实现适时干预

StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning

AI 导读

研究人员提出用于智能体系统步骤级适时干预的训练框架 ASPO 及推理安全护栏 StepSafe。该方案结合前缀级阶段对齐与自适应反馈自蒸馏,在每一步标注违规分类与干预窗口,并在不可逆伤害发生前适时制止。4B 参数规模的 StepSafe 在 5 个智能体安全评测基准中取得开源安全护栏的 SOTA 表现,Youden's J 指标达到 53.0。

来源:arXiv 人工智能 · arxiv.org