等到知晓 AI 最关键问题的答案时或已为时已晚

前英国 AI 安全研究所（AISI）首席科学家撰文指出，超人类 AI 导致人类毁灭的概率约为 50%，未来 2 至 10 年人类的行动将决定最终走向。超智能 AI 仅需掌握黑客入侵、说服操纵、隐蔽思考以及多智能体规划协同四项能力即可构成致命威胁。作者强调不能等待安全争论达成共识才应对，呼吁当下应暂停 AI 开发。