Anthropic发布Claude宪法确立安全对齐与价值原则

Anthropic公布了指导Claude行为准则的宪法框架。该框架明确了在发生价值冲突时的整体权衡顺序，优先级依次为广泛安全、广泛道德、遵守公司指引，以及真正有益于用户。文档强调优先培养模型在复杂情境下的道德判断力，而非机械执行死板规则；同时要求模型保持高度诚实，拒绝谄媚或过度防御性拒绝。此外，宪法对协助制造生化核武器及攻击关键基础设施等行为设立了绝对硬约束。

AI 根据报道生成 · 58 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。