arXiv 机器学习· Andrii Shkabrii, Claudia Plant, Martin Pawelczyk·· 15 hours agoAI score43
基于统计独立性的大语言模型遗忘方法研究
Forget What Comes Next: LLM Unlearning via Statistical Independence
Not yet translated; shown in Chinese.
AI guide
研究者提出大语言模型机器遗忘新算法 PINT，利用希尔伯特-施密特独立性准则（HSIC）降低待遗忘 token 与内部表征的统计依赖。该方法在个人信息、高危安全知识及版权内容等 8 种场景完成评估，并在最高 7B 模型上测试且证明可扩展至 70B 参数规模。PINT 在遗忘与效用权衡上达到平均最优，相关代码已开源。
Source:arXiv 机器学习 · arxiv.org