跳到正文
原文
arXiv 机器学习· Issam Seddik, Mohamed El Amine Seddik·· 1 天前AI 评分33

神经网络后门攻击为何如此容易?

Why Backdooring Neural Networks is so Easy?

AI 导读

新研究通过精确闭式分析揭示,赋予神经网络强大能力的特征学习动力学反而使其更易受到后门攻击。在保持正常准确率时,惰性学习要求触发器强度与投毒比例满足 $\alpha \propto \pi^{-1/2}$,而特征学习将门槛放宽至 $\alpha \propto \pi^{-1/4}$,显著降低了攻击所需强度。该发现证明基于线性启发式的安全审计会系统性低估主流模型的后门脆弱性。

来源:arXiv 机器学习 · arxiv.org