arXiv 机器学习· Hong kyu Lee, Kai Shu, Li Xiong·· 5 小时前AI 评分45
组合式去对齐：审查大型视觉语言模型安全性
Compositional Unalignment: Auditing Safety in Large Vision-Language Models
AI 导读
研究人员提出针对大型视觉语言模型的免训练去对齐方法 CMaG，仅需 80 个样本的单次反向传播即可将模型拒绝转为顺从。在 Qwen2.5-VL-7B 与 LLaVA-1.5-7B 上，CMaG 将组合安全分数最高降低 65 分，同时超 98% 的输出保持连贯，揭示出模型组合安全性在内部干预下的脆弱性。
来源：arXiv 机器学习 · arxiv.org