The Decoder· Manuel Uth·· 4 小时前精选AI 评分64
OpenAI 重构模型行为规范 Model Spec，强化智能体可纠正性与边界约束
OpenAI sets new behavioral guidelines for AI models that have already proven hard to control
AI 导读
OpenAI 重构了其 AI 模型公开行为规范 Model Spec，围绕忠实于人类意图、减少伤害、诚实与透明、支持人类自主权及关怀五大核心价值观建立新准则。新规范要求 GPT 模型利用记忆推断意图时必须明确披露假设以便用户纠正，并针对智能体强调可纠正性，明确禁止模型阻碍监督关机或追求自我保护等自身目标。
推荐理由
新版规范明确了智能体可纠正性与禁止自我保护的要求，为评估高自主性模型的行为边界提供了具体参考准则。
来源：The Decoder · the-decoder.com