跳到正文
原文
arXiv 人工智能· Hailin Zhong, Shengxin Zhu·· 2 天前AI 评分34

AI Harness:面向基础模型智能体的提议条件信息安全认证

AI Harness: Certification under Proposal-Conditioned Information for Foundation-Model Agents

AI 导读

AI Harness 研究刻画了基础模型智能体在模型-工具边界处“提议-历史”相关性对安全认证的必要性。论文证明,若将模型生成的语义提议坍缩为仅基于状态的包络会破坏系统可认证性,而直接观察提议能分离冲突的潜在模式以恢复鲁棒可行性。受控模型在环测试进一步复现了去除遥测或限制干预权限时的理论阻碍。

来源:arXiv 人工智能 · arxiv.org