arXiv 人工智能· NaHyeon Park, Minhyun Lee, Hyunjung Shim·· 5 小时前AI 评分39
CALM：分析文生图全局不安全表征的局限性与局部校正方法
Keep It CALM: Analyzing the Limits of Global Unsafety in Text-to-Image Generation
AI 导读
研究人员提出免训练文生图安全防护方法 CALM，通过提示词局部反事实校正替代传统的全局不安全信号消除。该方法利用匹配的不安全-良性锚点定位违规类别，仅对违规 token 表征进行最小编辑并抑制不安全残差分量。评测表明，CALM 在显著提升不安全内容抑制效果的同时保留了良性提示词的生成效用。
来源：arXiv 人工智能 · arxiv.org