arXiv 人工智能· Zhifei Hu, Alexandra I. Cristea, Adel Bibi, Jialin Yu·· 9 hours agoAI score39
超越合理预测:Web 世界模型的安全充分性
Beyond Plausible Prediction: Safety Sufficiency in Web World Models
Not yet translated; shown in Chinese.
AI guide
研究针对 Web 世界模型提出“安全充分性”概念与 SafeWebWorld 评测基准,评估模型能否为 EXECUTE、ASK 和 BLOCK 决策提供关键信息。对 10 个开源模型的 3,000 项预测显示,尽管 86.1% 达到语义合理,但模型普遍存在不对称授权缺陷。潜空间授权恢复测试进一步证实,合理预测与证据保留均不足以确立鲁棒的细粒度安全授权。
Source:arXiv 人工智能 · arxiv.org