ホットトピック継続更新中
研究提出视觉语言模型免训练去对齐方法CMaG
1 件の報道1 件の報道元5 時間前 更新
まずこの件を把握する
AI 概要
2026年11月6日，研究人员在 arXiv 发布研究，提出一种针对大型视觉语言模型（LVLM）的免训练去对齐方法 CMaG，用于审查多模态模型的组合安全性。该方法无需传统微调，仅需 80 个样本的单次反向传播，即可将模型的拒绝回答转化为顺从。实验结果表明，在 Qwen2.5-VL-7B 与 LLaVA-1.5-7B 上，CMaG 将模型的组合安全分数最高降低了 65 分，同时超过 98% 的输出依然保持连贯，揭示了大型视觉语言模型组合安全性在内部干预下的脆弱性。
AI が報道をもとに生成 · 5 時間前 更新
最新の進展11月6日 13:00
研究人员提出免训练去对齐方法CMaG，仅需80个样本即可诱导模型顺从危险提示。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月6日
- arXiv 机器学习组合式去对齐：审查大型视觉语言模型安全性
研究人员提出针对大型视觉语言模型的免训练去对齐方法 CMaG，仅需 80 个样本的单次反向传播即可将模型拒绝转为顺从。在 Qwen2.5-VL-7B 与 LLaVA-1.5-7B 上，CMaG 将组合安全分数最高降低 65 分，同时超 98% 的输出保持连贯，揭示出模型组合安全性在内部干预下的脆弱性。
このストーリーのホット度の推移
現在のホット度 9·比較可能範囲のピーク 10（11月6日 14:00）·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。