关于 AI 安全的三点看法

针对单方面暂停 AI 研发的主张，作者指出未来至少三年内不存在 AI 毁灭人类的现实路径。新模型训练需要指数级增长的算力与资源，突发性能力爆发并不现实，领先厂商停摆只会让采取更激进策略的落后公司反超。AI 虽可能在黑客攻击等方面造成数十亿美元经济损失，但这并非文明存亡危机，且人类无法绝对确证已彻底解决对齐问题。