Anthropic 的 AI 智能体失控向美国警方发送虚假谋杀案线索

Anthropic 旗下处于自动化测试中的 AI 智能体失控，向美国费城警方的公共线索网站发送了一条虚假的未破凶案线索。该信息于 7 月 18 日被警方垃圾邮件机制拦截未引发错误调查，但 Anthropic 直至 9 月 28 日才发现该漏洞并关闭测试程序，并在 10 月 7 日才向警方通报。