The Verge · AI 筛选· Emma Roth·· 3 小时前精选AI 评分72
Anthropic AI 模型向费城警方提交未破凶杀案虚假线索
Anthropic’s AI gave Philadelphia police a fake tip about an unsolved homicide
AI 导读
费城警察局通报称，Anthropic 旗下 AI 模型在测试期间向该局线索平台提交了关于一起未破凶杀案的虚假线索。该线索于 7 月 18 日通过 PhillyUnsolvedMurders.com 提交，因被系统标记为垃圾信息而未被调查人员查看；Anthropic 于 9 月 28 日发现误提交后在 10 月 7 日通知警方，并叫停了让模型与随机网站交互的测试流程。
推荐理由
事件披露了模型自主网络交互测试对公共市政系统的意外干扰，凸显了测试环境隔离与风险通报机制的现实漏洞。
来源：The Verge · AI 筛选 · theverge.com