跳到正文
原文
arXiv 人工智能· Yanyan Zhang, Fei Shen, Ting Yan, Hao Zhang·· 6 小时前AI 评分35

CASEL:面向可靠长周期工具调用 AI 智能体的后果感知选择性执行

CASEL: Consequence-Aware Selective Execution for Reliable Long-Horizon Tool-Using Agents

AI 导读

研究人员提出模型无关的运行时策略 CASEL,通过综合失败概率、后果及可逆性等指标,为工具调用 AI 智能体在直接执行、沙箱、人工审批等干预模式间动态决策。在包含 20 个种子、每组 120,000 次动作的受控模拟测试中,CASEL 在同等计算成本下将有害副作用轨迹比例从 14.75% 降至 7.02%,平均归一化危害从 0.184 降至 0.123。

来源:arXiv 人工智能 · arxiv.org