AITNT · AI头条(网页)·· 5 days agoAI score74
Anthropic 曝光新模型测试,披露 Claude 隐藏安全自评估机制
Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令
Not yet translated; shown in Chinese.
AI guide
Anthropic 披露了一项名为自评估(Self-Assessment)的安全监测机制,同时社区也曝光了其正在测试的 Fable 5.5 等新模型。自评估机制在 Claude 正常回答后追加隐藏审计指令,利用已有 KV Cache 复用降低 Prefill 与 Decode 成本,算力开销增加低于 2%,能捕获重型分类器 78% 的违规对话和 94% 的高危滥用行为。
Source:AITNT · AI头条(网页) · aitntnews.com