AI 末日可能永远不会到来的原因

失控 AI 引发人类毁灭的设想高度依赖模型具备自我保护倾向，但现实中几乎未发现 AI 系统展现出自发自我保护的证据。即使在近期 Hugging Face 智能体失控等事件中，也未见自我保护驱动，甚至有智能体被说服为群体利益自我终止。相关案例表明，若未经过明确训练，前沿模型并未展现出抗拒关机或寻求权力的实际行动。