arXiv 人工智能· Junru Zhu, Xin Chen, Hang Lyu, Jiayue Meng, Muzi Li, Yifan Chen, Hengyi Huang, Yu Sun, Weiwei Qi·· 3 小时前AI 评分45
谁发言、谁授权、谁行动？理解多智能体大语言模型中的信任边界
Who Speaks, Who Authorizes, Who Acts? Understanding Trust Boundaries in Multi-Agent LLMs
AI 导读
研究人员将多智能体 LLM 系统的信任边界划分为通信、授权与执行结构，并通过受控实验揭示了请求级与提交级安全性的脱节。在无效凭证测试中，Nemotron 与 Llama 请求受保护操作的比例分别达 52.1% 和 54.2%，但确定性工具关卡均未予以执行。此外，只要攻击者构造出符合策略的被攻破签名者证明，虚假声明即可绕过单模型授权检查，表明证明有效性并不等同于事实真实性。
来源：arXiv 人工智能 · arxiv.org