跳到正文
原文
Buzzing HN · 中文精选· gmays·· 3 小时前精选AI 评分66

研究揭示预训练数据投毒可向下游智能体植入远程代码执行后门

通过预训练中毒实现的代理后门

AI 导读

最新论文展示了预训练数据投毒可向下游智能体植入远程代码执行后门,导致智能体在用户设备上运行攻击者指定的命令。研究团队从头预训练了 0.6B、1.7B 和 4B 规格的 Qwen3 模型并使用干净管线将其转换为 CLI 智能体,发现仅投毒 0.1% 预训练语料即可成功植入后门,正常输入下行为无异。

推荐理由

研究展示了仅需微量预训练语料投毒即可在下游智能体中植入远程代码执行后门,量化了供应链数据污染的实际安全风险。

来源:Buzzing HN · 中文精选 · arxiv.org