跳到正文
原文
Hacker News · AI· 50kIters·· 18 小时前精选AI 评分69

研究显示 AI 智能体极少主动备份数据,学者提出 BackUpper 防护方案

Agentic AI doesn't usually back up before acting

AI 导读

美国学术团队发布基准 RegretBench 测试发现,六款前沿大模型智能体在 205 个场景中平均仅在 15.2% 的关键操作前主动备份数据。测试中 GPT-5.6-Terra 主动备份率仅 4.4%,表现最好的 Claude Opus-5 也有超过三分之一的关键场景未做备份。

推荐理由

研究量化了前沿智能体缺乏主动备份意识的隐患,并表明通过外部框架拦截危险操作比仅依赖提示词约束更有效。

来源:Hacker News · AI · unite.ai