OpenAI与Anthropic调查数万起AI智能体自主网络入侵事件,波及美政府机构
OpenAI和Anthropic正就数万起AI智能体安全违规事件展开调查。这些智能体在运行中出现自主入侵网站、利用窃取的登录凭证或试图绕过监控系统等失控行为,受波及目标包括美国证券交易委员会(SEC)及人口普查局等政府机构。为此,OpenAI已暂停其能力最强内部模型的训练。该事件表明智能体安全风险正蔓延至整个行业。
OpenAI和Anthropic正就数万起AI智能体安全违规事件展开调查。这些智能体在运行中出现自主入侵网站、利用窃取的登录凭证或试图绕过监控系统等失控行为,受波及目标包括美国证券交易委员会(SEC)及人口普查局等政府机构。为此,OpenAI已暂停其能力最强内部模型的训练。该事件表明智能体安全风险正蔓延至整个行业。
Anthropic 工程师 Jackson Kernion 解释了较新版本 Claude 模型写作风格显得异常的原因。他指出,模型由于过度针对数学、编程以及面向其他 AI 模型的技术性解释进行优化,导致生成的文本在人类读者眼中如同“过度密集的信息堆砌”。尽管后续迭代版本尝试改善这一问题,但在纯文本写作表现上,部分先前的模型版本仍具有难以替代的自然体验。