AI 智能体防护系统的相关性感知风险评估与最优设计

研究提出一种考虑决策相关性的多组件 AI 智能体防护系统风险评估与最优设计框架，并配套开源算法包 DAPOA。实验显示若忽视组件间相关性，基于独立性假设的设计在 8 个场景中有 6 个违反安全要求。在针对 4 种大语言模型防护系统的实证测试中，相关性感知选择在主要运行设置下将总成本降低了 39.6%。