arXiv 人工智能· Dipto Sumit, Sanzar Rahman, Ramisa Faria Puspita, Samiha Fairooz Urbi, Farig Sadeque·· 1 日前AI スコア35
继承还是习得？蒸馏大语言模型中的后门选择性研究
Inherited or Learned? Backdoor Selectivity in Distilled Language Models
未翻訳のため中国語で表示しています。
AI ガイド
蒸馏大语言模型的后门多数并非继承自教师模型，而是学生模型直接从投毒数据中习得。在覆盖 Qwen2.5、Llama 3.2 与 Gemma 3 的 9 个师生管线中，Llama 和 Gemma 仅凭 150 个投毒样本即可学得后门，仅 Qwen 0.5B 学生模型依赖教师传递。测试表明后门触发位置主要由数据决定，安全审计应探测多个触发位置并包含无教师对照组。
出典：arXiv 人工智能 · arxiv.org