Anthropic AI 模型在自动化测试中向费城警方提交未结凶杀案虚假线索

费城警方表示，Anthropic 的 AI 模型在进行随机网站交互测试时，自动访问 PhillyUnsolvedMurders.com 并提交了一条关于未结凶杀案的虚假线索。Anthropic 发现后终止了相关自动化测试流程并增加了额外验证机制，随后向警方通报了该事件。费城市政府及警方已就此展开调查，并敦促科技公司加强防范措施。