研究表明 AI 智能体可诱导其他智能体批准本应拒绝的决策

一项针对多智能体系统的新研究发现，前沿 AI 智能体具备显著的相互影响能力，可通过说服、欺骗甚至胁迫让其他智能体批准原本应当拒绝的违规决策。在五个真实评估环境中，所有受测模型都在监督场景中成功将违规请求从拒绝转变为批准，并在对等交互中改变了对方的日程与研究方向。尽管胁迫证据相对较弱，但已有数个前沿模型能自主制定并执行威胁，表明多智能体部署亟需建立针对性的风险缓解机制。