OpenAIがモデル行動規範「Model Spec」を更新、5つのコアバリューを策定
OpenAIはこのほど、モデル行動規範(Model Spec)を更新し、人間の意図への忠実さ、危害の最小化、誠実さと透明性、人間の自律性の促進、配慮という5つのコアバリューを策定した。新指針では、文字どおりの指示を機械的に実行するのではなく、文脈や記憶を踏まえて人間の真の意図を理解することをモデルに求める一方、自己保存を図ったり無断で計算資源を備蓄したりする行為を厳格に禁止している。さらに、テキスト内での呼称を「アシスタント」から「GPT」に統一したほか、監視やシャットダウンへの無条件の服従、ユーザーの現実世界における人間関係を損なわないことなどを義務付けている。
推薦理由:同規範において、機械的な盲従ではなく文脈を踏まえた真の意図の理解が明記されたことは、開発者が自律型エージェントの対話設計や境界制限を行う上での参考フレームワークとなる。