跳到正文
原文
AITNT · AI头条(网页)·· 2 小时前AI 评分60

奥特曼谈超级智能与自我改进:AI进化速度须匹配人类验证能力

奥特曼:谁来决定AI该比人类聪明多少?

AI 导读

OpenAI CEO 奥特曼在访谈中提出 AI 智力应被允许超越人类多少的治理议题,强调推进完全自主的递归自我改进必须以人类保留控制权为前提。当前前沿模型任务能力翻倍速度已远超人类认知与验证速度,为此 OpenAI 引入了多层 AI 监测与 30 分钟未排除警报即停机的熔断机制。奥特曼同时指出需防范系统失控与权力过度集中两类风险,并警惕未经严格消化的 AI 成果直接反哺下一代模型导致误差累积。

来源:AITNT · AI头条(网页) · aitntnews.com