跳到正文
原文
arXiv 人工智能· Enric Boix-Adsera·· 2 天前AI 评分43

契约监控:通过权力分立机制治理 AI

Contract monitoring: governing AI via separation of powers

AI 导读

研究人员提出一种通过契约约束工作智能体允许行为的 AI 安全框架。该框架为监控智能体与裁判分配不同职责,并向监控者与工作者分配非对称计算资源来执行契约,可实证测量统计安全保证。该机制适用于代码安全与沙箱逃逸等多种场景。

来源:arXiv 人工智能 · arxiv.org