The Decoder· Matthias Bastian·· 3 小时前精选AI 评分72
OpenAI 计划年内发布新模型，下一代旗舰仍受制于安全对齐
OpenAI will reportedly ship at least one model this year but its flagship still needs alignment work
AI 导读
OpenAI 预计在年底前发布一至两款新模型，但采用循环 Transformer 技术的下一代旗舰模型仍因对齐与安全测试评估尚未完成而延期。该架构通过让 token 多次流经相同网络层来强化数学与代码表现，但会导致部分推理过程转化为人类无法审查的数值表征，削弱思维链监控能力。
推荐理由
循环架构虽能提升模型性能与效率，却因隐藏推理过程给安全对齐和监管审查带来了新阻碍。
来源：The Decoder · the-decoder.com