Hacker News · AI· v9v·· 7 小时前精选AI 评分76
佛州一女子在 Claude 中记录袭击威胁内容,Anthropic 人工审核后向警方报案
Florida woman used Claude as a diary, then Anthropic reported an entry to police
AI 导读
美国佛罗里达州一名女子因在 Claude 中记录计划袭击警长办公室的言论,被 Anthropic 安全系统标记并通过人工审核向警方报案,目前该女子面临二级重罪指控。Anthropic 依据相关政策在认定存在严重人身威胁时向执法部门移交了用户信息。该事件再次体现了大模型对话内容受到人工审查与安全机制监管,并非完全私密空间。
推荐理由
原文展示了 AI 服务商在识别暴力威胁时的审核与报警流程,有助于读者理解聊天机器人的隐私边界及相关法律风险。
来源:Hacker News · AI · techspot.com