前英国AISI首席科学家预警超人类AI风险并呼吁暂停开发

2026年10月，前英国AI安全研究所（AISI）首席科学家撰文对超人类AI带来的安全风险发出预警。文章指出，超人类AI导致人类毁灭的概率约为50%，未来2至10年人类的行动将决定最终走向。作者表示，超智能AI仅需掌握黑客入侵、说服操纵、隐蔽思考以及多智能体规划协同四项能力即可构成致命威胁。作者强调不能等到安全争论达成共识后才采取应对措施，呼吁当下应暂停AI开发。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。