复盘 2017 年 AI 风险研究项目：包含与 OpenAI Dario Amodei 的对话

作者复盘了 2017 年关于 AI 风险的研究及与当时 OpenAI 的 Dario Amodei 的对话，承认接触到了前瞻观点但底线判断有误。回顾认为，深度神经网络与强化学习结合大规模 Scaling 确已成为通向 AGI 的主流路径，但强大模型基本由工程驱动且缺乏理论基础，且安全研究甚至可能反向加速了 AI 研发进程。