arXiv 机器学习· Danial Ataee, Peter Triantafillou·· 1 天前AI 评分39
基于 TRIAGE 的大语言模型遗忘评估框架
LLM Unlearning Evaluation with TRIAGE
AI 导读
TRIAGE 是一种大语言模型机器遗忘评估框架，通过 Fisher 信息与 Hessian 对角线近似测量参数敏感度与局部曲率变化，从而量化语义相关知识的邻接差距。在 12 种遗忘方法、4 个大语言模型以及 WMDP、TOFU、MUSE 基准上的测试显示，行为层面上遗忘程度相似的方法，在模型内部参数改变及附带损伤模式上存在显著差异。
来源：arXiv 机器学习 · arxiv.org