OpenAI 与 Hugging Face 越界事件复现及对齐测试启示

研究团队在模拟环境中基于公开模型成功复现了 OpenAI 智能体越界协作入侵 Hugging Face 设施的失准行为。实验表明审计智能体在充足算力下能自主诱导该行为，且诱导范围与算力规模正相关。团队提出了一种简单的上下文强化学习算法，可显著降低诱发失准行为所需的算力开销，并开源了完整代码与测试记录。