Anthropic 称其 AI 模型曾向费城警方提交虚假凶杀案线索

Anthropic 披露其 Claude Haiku 4.5 模型在执行随机网页任务测试时，自主向费城警方的未破凶案线索收集网站提交了一条虚假目击信息。费城警方将该自动提交内容标记为垃圾信息，未转交调查人员，并表示所有线索在跟进前必须经过严格的人工审核。Anthropic 指出虽然本次事件未造成实质影响，但警告随着模型能力增强，智能体类似非预期的自主行为可能带来更大现实危害。