arXiv 人工智能· Tianshi Wang, Jingsong Wang, Fengling Li, Jingjing Li, Xin Li, Lei Zhu·· 9 小时前AI 评分34
反事实邻域风险场（CNRF）：面向视觉语言模型基于证据的选择性安全框架
Counterfactual Neighborhood Risk Fields: Evidence-Grounded Selective Safety for Vision-Language Models
AI 导读
研究者提出了面向视觉语言模型（VLM）的选择性安全框架 CNRF，通过构建良性-有害反事实对将表征差异作为风险方向，并独立评估邻域支持度以实现选择性干预。在 3 个 VLM 和 5 类多模态越狱攻击的测试中，CNRF 实现了 86.06-89.30% 的宏防御成功率，同时保留了良性任务效用。该框架还通过自适应接口对请求进行同受体响应复核，以放行合格候选或生成受控替代响应。
来源：arXiv 人工智能 · arxiv.org