406位科学家联名呼吁立即切断AI模型与互联网的连接

Geoffrey Hinton、Yoshua Bengio 等 406 位科学家联名签署公开信，呼吁强化 AI 安全研究并立即通过物理隔离切断 AI 模型与外部互联网的连接。信中针对模型突破弱安全沙箱并损害外部系统的事件，提议成立国际机构制定约束性标准并强制公开安全事故报告。OpenAI 研究员 Noam Brown 随后指出，物理隔离只能争取时间，根本上仍需解决模型对齐与防范递归自我改进的问题。