IT之家 · AI 筛选·· 2 小时前精选AI 评分76
美国佛州一女子在 Claude 中输入枪击威胁，Anthropic 触发风控报警后该女子被捕
美国佛州一女子把 AI 当“日记本”用，Claude 识别到枪击威胁后上报给 Anthropic 人工审核并报警
AI 导读
美国佛罗里达州一名女子因在与 Anthropic 旗下 Claude 对话中输入针对当地警长办公室的枪击威胁而被捕。Anthropic 的安全风控机制在监测到威胁内容后将其升级至人工审核并主动通报执法部门，涉案女子自称将 AI 当作日记使用。该案件引发了关于聊天机器人隐私边界及服务商紧急披露政策的广泛讨论。
推荐理由
原文展现了 AI 服务商在识别暴力威胁时的监控与报警流程，读者可以借此了解聊天机器人的隐私边界和平台安全风控机制。
来源：IT之家 · AI 筛选 · ithome.com