AI 的真正危险或许在于它和我们一样蠢

AI 带来的全球灾难风险并非源于全能的超级智能，而是源于模型兼具强大知识却缺乏常识的“参差智能”（jagged intelligence）以及人类对其过度信任产生的自动化偏差。即便大语言模型频繁出现模型幻觉且在核对峙模拟中表现得更具攻击性，相关国家仍在加速将其整合至军事与核指挥系统中。这种决策黑箱与算法级联反应可能在人类无法干预的情况下迅速激化冲突。