arXiv 机器学习· Wei Zhai, Xiang Liu, Qiang Huang, Rui Qian, Lemao Liu, Ziwei Li, Ziqi Wang, Zhitao Huang, Dejing Dou·· 4 小时前AI 评分38
Nullify：面向免训练 LLM 机器遗忘的零空间激活导向
Nullify: Null-Space Activation Steering for Training-Free LLM Unlearning
AI 导读
研究者提出免训练的 LLM 机器遗忘方法 Nullify，在推理阶段利用导向向量重定向隐私相关激活，防止敏感信息泄露。该方法通过零空间约束避免影响需保留的激活，完全无需更新模型权重。在 TOFU 和 MUSE 评测基准上，Nullify 的遗忘质量达到或超越现有基线，同时实现了模型实用性的近乎无损保留。
来源：arXiv 机器学习 · arxiv.org