Hacker News · AI· jaeunglee·· 3 小时前AI 评分36
通过激活修补测量大语言模型遗忘深度的 UDS 指标
Measuring the Depth of LLM Unlearning via Activation Patching
AI 导读
研究者提出了遗忘深度得分(UDS),这是一种通过两阶段激活修补来量化目标知识可恢复程度的大语言模型机制层评估指标。UDS 会对比完整模型、保留模型与遗忘模型在各层的隐藏状态,并将目标知识擦除程度聚合成 0 到 1 的评分。
来源:Hacker News · AI · gnueaj.github.io