爱范儿 · AI 筛选· 张子豪·· 2 小时前精选AI 评分65
Anthropic 被曝测试 Fable 5.5，并披露 Claude 隐藏自评估安全机制
Fable 5.5测试曝光，Claude每次回答后，还会执行一条你看不到的指令
AI 导读
Anthropic 新模型 Fable 5.5 正在进行早期测试，同时官方披露了自 Claude Fable 5 起引入的隐藏自评估安全监测机制。该机制在每次回答结束后追加一条隐藏指令，复用已有上下文和 KV Cache 生成结构化评估，算力开销低于 2% 且不影响首字延迟。自评估结果主要用于离线聚合高风险信号和发现新型违规模式，不计入用户账单，也不直接用于实时拦截。
推荐理由
Anthropic 提出的自评估机制展示了如何在复用已有上下文的前提下，以极低推理算力开销实现大模型输出后的离线安全筛查。
来源：爱范儿 · AI 筛选 · ifanr.com