我们应该对 AI 灭绝风险有多担忧？

受菲尔兹奖得主 Jacob Tsimerman 创立数学人工智能安全研究所（MAISI）的影响，作者加入其科学顾问委员会，开始严肃审视 AI 灭绝风险（x-risk）。作者指出数学家适合为此提供理论支持，即便仅将灭绝概率降低 0.1%，预期也能挽救超 800 万人的生命。文章旨在梳理多层次论辩逻辑，促使更多人跳出浅层反驳并认真对待该议题。