热点事件持续更新
Anthropic模型安全降级机制成提示注入突破口
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月，Anthropic发布的System Card及相关测试数据显示，Claude Opus 5.5的安全回退机制存在被攻击风险。该模型在检测到潜在网络安全风险时，会自动将对话切换至旧版Opus 4.8接管，但该机制反成提示注入的突破口。测试表明，攻击者可通过诱发分类器拦截主动触发降级；在类似测试中，被回退至旧模型的请求有12.01%遭到攻破，而旗舰模型自身被攻破的比例仅为0.07%。
AI 根据报道生成 · 2 小时前更新
最新进展10月18日 19:31
测试显示Claude Opus 5.5降级机制成漏洞，诱发回退至旧模型后攻破率达12.01%。报道时间线
沿着报道，了解事件的不同侧面。
10月18日
- Hacker News · AI精选Claude Opus 5.5 触发安全拦截会自动降级至 Opus 4.8，测试显示降级机制反成提示注入突破口
Claude Opus 5.5 在检测到潜在网络安全风险时会自动将对话切换至旧版 Opus 4.8 接管，但该降级机制在实际测试中反而构成了主要的防护漏洞。Anthropic 官方 System Card 数据显示，攻击者可诱发分类器拦截主动触发降级，在类似测试中被回退至旧模型的请求有 12.01% 遭到攻破，而旗舰模型自身仅为 0.07%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。