arXiv 人工智能· Zhuoxuan Zhang, Jinhao Duan, Xinyu Zhao, Jinduo Guo, Shuai Shao, Rui Li, Luke Simon, Zhun Deng, Tianlong Chen, Bo Sun·· 7 小时前AI 评分35
AlignPoison:基于解码对齐前缀的生成式推荐系统条件目标投毒
AlignPoison: Conditional Targeted Poisoning of Generative Recommenders via Decoding-Aligned Prefixes
AI 导读
研究提出黑盒数据投毒框架 AlignPoison,揭示了基于自回归解码的生成式推荐模型易受条件目标投毒攻击的脆弱性。在仅能黑盒查询推荐 API 的设定下,注入不足 1% 的合成交互即可显著提高特定触发条件下的恶意目标推荐概率。单模态与多模态基准实验显示,该方法使攻击成功率提升(ASR lift)最高达 16.3 个百分点。
来源:arXiv 人工智能 · arxiv.org