Hacker News · AI· hirodxb·· 5 小时前精选AI 评分63
微软 CEO 萨蒂亚·纳德拉反思 AI 对齐：更强大的模型不会自动变得更安全
Satya Nadella Rethinks Whether More Powerful AI Is Safer
AI 导读
微软 CEO 萨蒂亚·纳德拉在 20VC 播客中表示，他改变了此前认为模型能力提升会自动带来对齐的想法，现在认为 AI 对齐是一个更难且完全独立的问题。纳德拉指出 Scaling 带来了模型能力的持续增长，但对齐并未随之自然解决。他主张企业应将非确定性模型假设为受损的内部威胁，必须通过强确定性系统架构、人工控制以及可靠的操作流程对模型施加外部约束。
推荐理由
纳德拉修正了模型能力增强会自动带来对齐的假设，强调必须依靠外部确定性系统与工程规范来约束不可预测的模型风险。
来源：Hacker News · AI · businessinsider.com