Hacker News · AI· felineflock·· 3 小时前精选AI 评分71
Anthropic 向警方报案用户在 Claude 中的枪击威胁，佛罗里达州一女子被捕
Third conversation with Claude that Anthropic reported to police since August
AI 导读
佛罗里达州一名女子因在与 Claude 对话中声称要袭击当地警长办公室，经 Anthropic 人工审核团队向警方报案后被捕并面临重罪指控。这是自 8 月以来 Anthropic 经人工审查后向执法部门通报的至少第三起此类对话。逮捕记录显示，Anthropic 会对涉及潜在暴力威胁的关键词进行监控并升级至人工审核处理。
推荐理由
该事件展示了大模型平台对用户对话内容的安全监控与报警机制，为评估 AI 隐私与执法合规边界提供了具体案例。
来源：Hacker News · AI · tomshardware.com