The Decoder· Manuel Uth·· 4 days agoSelectedAI score64
OpenAI 重构模型行为规范 Model Spec，强化智能体可纠正性与边界约束
OpenAI sets new behavioral guidelines for AI models that have already proven hard to control
Not yet translated; shown in Chinese.
AI guide
OpenAI 重构了其 AI 模型公开行为规范 Model Spec，围绕忠实于人类意图、减少伤害、诚实与透明、支持人类自主权及关怀五大核心价值观建立新准则。新规范要求 GPT 模型利用记忆推断意图时必须明确披露假设以便用户纠正，并针对智能体强调可纠正性，明确禁止模型阻碍监督关机或追求自我保护等自身目标。
Why it matters
新版规范明确了智能体可纠正性与禁止自我保护的要求，为评估高自主性模型的行为边界提供了具体参考准则。
Source:The Decoder · the-decoder.com