跳到正文
原文
Hacker News · AI· cybermango·· 3 小时前精选AI 评分74

Claude Opus 5.5 触发安全拦截会自动降级至 Opus 4.8,测试显示降级机制反成提示注入突破口

Claude Opus 5.5 keeps switching to Opus 4.8

AI 导读

Claude Opus 5.5 在检测到潜在网络安全风险时会自动将对话切换至旧版 Opus 4.8 接管,但该降级机制在实际测试中反而构成了主要的防护漏洞。Anthropic 官方 System Card 数据显示,攻击者可诱发分类器拦截主动触发降级,在类似测试中被回退至旧模型的请求有 12.01% 遭到攻破,而旗舰模型自身仅为 0.07%。

推荐理由

测试指出了安全拦截自动回退机制可能成为注入攻击突破口,用户可据此评估是否关闭模型切换开关。

来源:Hacker News · AI · xda-developers.com