安全多智能体强化学习的脆弱性分析

研究人员提出了针对安全多智能体强化学习（SMARL）的推理期观测攻击框架 MinMax Attack，通过扰动部分智能体的观测来改变其策略动作。该攻击在考虑良性智能体协同抵抗（Cooperative Resistance）的同时联合选择对抗目标动作，并推导出了诱发安全代价的理论界限。基准测试表明，MinMax Attack 相比现有基准能诱发显著更高的安全代价，同时保持任务奖励以降低可检测性。