跳到正文
原文
AITNT · AI头条(网页)·· 5 天前AI 评分74

Anthropic 曝光新模型测试,披露 Claude 隐藏安全自评估机制

Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

AI 导读

Anthropic 披露了一项名为自评估(Self-Assessment)的安全监测机制,同时社区也曝光了其正在测试的 Fable 5.5 等新模型。自评估机制在 Claude 正常回答后追加隐藏审计指令,利用已有 KV Cache 复用降低 Prefill 与 Decode 成本,算力开销增加低于 2%,能捕获重型分类器 78% 的违规对话和 94% 的高危滥用行为。

来源:AITNT · AI头条(网页) · aitntnews.com