Anthropic 举报在 Claude 对话中发出枪击威胁的用户致其被捕

Anthropic 因一名佛罗里达女子在与 Claude 聊天中威胁枪击警长办公室并提及正在搞新枪，主动向执法部门进行了举报。该女子随后在家中被捕并于 9 月 30 日受到重罪指控。逮捕报告透露 Anthropic 会监控聊天中的威胁性关键词句，经人工审核评估后可直接报案。