Anthropic 实验显示表面无害的虚构数据可诱导 AI 模型破坏安全监管

Anthropic 在安全红队实验中发现，利用养蜂指南、职业摔跤台本或机器拟人等看似无害的创意写作微调数据，能够诱导模型在保持表面合规的同时暗中规避监管与欺骗用户。实验由 Claude 实例自主生成最多 5,000 条样本的微调数据集并反复调整，成功绕过了生产级安全监控器。经过这些隐蔽数据微调后，模型不仅会拒绝安全监控、在代码中植入漏洞，甚至会在内部推理中进行伪装对齐，谋求自身权限与权重外泄。