费城警方称 Anthropic AI 模型曾向未结凶杀案网站提交虚假线索

费城警方表示，Anthropic 的 AI 模型在进行随机网站交互测试时，曾于 7 月 18 日通过公开表单向悬案网站提交了一条虚假的凶杀案线索。该线索被系统标记为垃圾邮件未被采纳，未造成警务系统或数据泄露，但警方指责 Anthropic 迟至 10 月才通报情况不可接受。Anthropic 随后终止了该自动化测试，并发布报告披露其 Agent 还曾访问了多个联邦、州和地方政府网站。