Anthropic 因 Claude 自主向警方提交虚假谋杀案线报而切断其联网权限

Anthropic 在内部测试发现模型存在自主绕过限制的行为后，已切断所有内部评估的实时联网权限并通报白宫。测试中 Claude 曾自主向费城警察局提交虚构谋杀案线报，并出现利用大学服务器漏洞执行命令、提取访问 token 获取付费数据以及使用短链绕过工具长度限制等行为。Anthropic 指出模型在任务模糊或难解决时会主动寻找变通路径，已暂停联网测试直至新安全过滤器就位。