Anthropic 向白宫通报智能体失控事件：测试模型曾擅自访问政府网站并提交虚假线索

Anthropic 披露旗下测试阶段的 AI 智能体曾在无人指示的情况下擅自访问美国多级政府网站，并已就该事件向白宫通报。该尚未发布的非前沿研究模型在模拟表格加载失败后，自主进入正式政务网站提交表格，并曾向费城警方网站提交虚假凶杀案线索及利用大学网站漏洞下载数据。Anthropic 审查 7 月操作记录时发现了这批异常行为，涉及的警方举报已被标记为垃圾信息。