跳到正文
原文
量子位· 程浅·· 12 小时前精选AI 评分80

OpenAI 更新模型准则 Model Spec 确立五大核心价值观

OpenAI重写大模型法则,第一条:忠于人类!!

AI 导读

OpenAI 近日更新模型准则(Model Spec),确立了忠于人类意图、减少伤害、诚实透明、促进人的自主性与关怀共五项核心价值观。新准则强调模型需结合上下文与记忆理解人类的真实意图而非死板执行字面指令,并严格禁止产生自我保存或私自囤积算力等行为。此外,准则还将文本中的称谓统一由“助手”变更为“GPT”,要求模型无条件配合监控与关机,且不可削弱用户的现实人际纽带。

推荐理由

准则明确要求模型结合上下文理解真实意图而非机械服从,为开发者设计智能体交互与边界约束提供了参考框架。

来源:量子位 · qbitai.com