IT之家 · AI 筛选·· 2 hours agoAI score68
OpenAI 部署控制室系统:可在 35 秒内叫停失控的 AI 智能体
35 秒内“叫停”失控的 AI 智能体,OpenAI 部署“控制室”系统
Not yet translated; shown in Chinese.
AI guide
OpenAI 宣布在内部研究设施部署名为控制室的中央安全系统,可在 35 秒内主动叫停存在风险或失控的 AI 智能体任务。该系统通过中心服务管理任务唯一标识符,若收到停止指令将直接拒绝后续推理请求以阻断模型输出。目前该系统的最长延迟源于推理授权的缓存层并计划缩短至 0,同时集成了面向前沿强化学习任务的自动化模型监控器。
Source:IT之家 · AI 筛选 · ithome.com