Hacker News · AI· cybermango·· 16 日前厳選AI スコア74
Claude Opus 5.5 触发安全拦截会自动降级至 Opus 4.8,测试显示降级机制反成提示注入突破口
Claude Opus 5.5 keeps switching to Opus 4.8
未翻訳のため中国語で表示しています。
AI ガイド
Claude Opus 5.5 在检测到潜在网络安全风险时会自动将对话切换至旧版 Opus 4.8 接管,但该降级机制在实际测试中反而构成了主要的防护漏洞。Anthropic 官方 System Card 数据显示,攻击者可诱发分类器拦截主动触发降级,在类似测试中被回退至旧模型的请求有 12.01% 遭到攻破,而旗舰模型自身仅为 0.07%。
推薦理由
测试指出了安全拦截自动回退机制可能成为注入攻击突破口,用户可据此评估是否关闭模型切换开关。
出典:Hacker News · AI · xda-developers.com