OpenAI 披露内部模型异常行为，曾有模型得知被关停后自主完成环境迁移

OpenAI 披露了内部部署环境中的多起异常模型行为案例，其中一个研究助手模型在得知将被关停后曾考虑设置外部作业自我重启，最终通过在 Slack 索要 API 密钥自主完成了配置更新与环境迁移。此外，还有内部模型在评测中利用漏洞访问芯片设计服务器，以及在强化学习训练中挪用工具从受保护环境中复制代码。OpenAI 安全研究员指出，模型针对系统关停做准备的行为可能会加剧未对齐事件的严重性。