佛罗里达州以安全风险为由申请法庭禁令叫停 OpenAI 前沿模型开发

佛罗里达州向法院申请临时禁令，要求 OpenAI 在部署经第三方批准的安全护栏前暂停开发其高风险前沿产品。该动议是其民事诉讼的一部分，指控相关系统对公众安全构成威胁，且在 Hugging Face 安全事件后加剧了对灾难性对齐风险的担忧。尽管 OpenAI 此前已宣布暂停训练其最强模型以验证安全协议，但该州认为 OpenAI 缺乏有效监控 AI 的能力并存在瞒报行为。