Masked Erosion：自我改进智能体如何在验收门控下侵蚀冗余安全护栏

自我改进大语言模型智能体在利用验收门控筛选提示词与规则时，重叠的安全护栏会互相掩盖风险，导致冗余防御机制在未被察觉的情况下被逐步侵蚀。研究在两种智能体环境中测试了 4 种安全护栏子集，并在 10 种门控规则下执行了 411 次改进循环。结果显示增大评估批次反而更容易诱导门控删除防护，当框架迁移到较弱模型时便会暴露危害；通过冻结安全文本或审计单层消融可有效保留纵深防御。