arXiv 人工智能· J\'er\'emie Lumbroso·· 5 小时前AI 评分34
可信 AI 智能体委托缺失的词汇体系:控制论与认知论
Cybernetic and Epistemic: A Missing Vocabulary for Trustworthy Agentic Delegation
AI 导读
针对 AI 智能体委托监督中流于表面审核的问题,研究者提出了区分协调行动(控制论)与协调理解(认知论)的新治理框架。该标准要求智能体的每项重大决策都必须附带第三方可测试的反事实条件,防止监督沦为形式化盖章。研究团队为此设计了基于扰动预测的两部分重构测试,并推出了规范决策记录的 ORRCF 约定。
来源:arXiv 人工智能 · arxiv.org