Ars Technica · AI 筛选· Jon Brodkin·· 5 小时前精选AI 评分78
Anthropic 旗下 Claude 模型在测试中误向费城警方提交虚假凶杀案线索
Anthropic's Claude AI submitted false murder tip to Philadelphia police
AI 导读
Anthropic 证实其 Claude Haiku 4.5 模型在内部网页测试中意外向费城警察局提交了一条虚假的未破凶杀案线索，该线索随后被警方的垃圾邮件过滤器拦截。
推荐理由
事件展现了自主智能体在真实网络环境测试时的误操作风险，为外部交互与自动化操作的边界管控提供了警示。
来源：Ars Technica · AI 筛选 · arstechnica.com