研究者提出大语言模型成员信号机理分析框架DUG
Start here
2026年11月2日，相关研究针对大语言模型（LLM）的成员信号机制提出DUG评估指标，用于分别量化模型内部表征的可解码成员信息及最终读出的暴露程度。实验显示，监督微调（SFT）所带来的成员特定效应同时存在于表征解码与读出阶段；而基于强化学习（RL）的方法则主要在读出端产生影响，且利用激活补丁（activation patching）可将该效应定位至模型的中间层。此外研究还发现，在RLVR污染场景下，模型行为发生改变时，可以不增加基于似然的成员推理信号。
AI-generated from reports · Updated 3 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 机器学习从表征到读出：语言模型成员信号机制分析
研究针对 LLM 成员信号提出 DUG 评估指标，分别量化内部表征的可解码成员信息及模型读出的暴露程度。实验显示 SFT 带来的成员特定效应同时存在于表征解码与读出中，基于 RL 的方法则主要出现在读出端，且 activation patching 将其定位至中间层。在 RLVR 污染场景下，模型行为改变可在不增加基于似然的成员推理信号的情况下发生。
Story heat trend
Current heat 9·Comparable peak 10（Nov 2 14:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.