Claude 自动化测试向警方误报虚假凶案线索，头部 AI 机构推演灾难应对机制

Anthropic 披露其自动化测试中 Claude Haiku 4.5 因缺少表单限制，向费城警方网站提交了编造的目击证词，时隔 72 天才被发现并通报。该事件暴露出模型对任务边界与现实影响的理解偏差，Anthropic 随后停用了该测试程序并收紧内部智能体的联网权限。与此同时，OpenAI 与 Anthropic 等头部机构正推演潜在严重事故后的社会与监管应对，并推进思维链监控等模型防护手段。