arXiv 机器学习· Wenxi Dai, Jingyu Hu, Yanting Yang, Mengnan Du·· 7 時間前AI スコア34
从表征到读出：语言模型成员信号机制分析
From Representation to Readout: Mechanistic Analysis of Membership Signals in Language Models
未翻訳のため中国語で表示しています。
AI ガイド
研究针对 LLM 成员信号提出 DUG 评估指标，分别量化内部表征的可解码成员信息及模型读出的暴露程度。实验显示 SFT 带来的成员特定效应同时存在于表征解码与读出中，基于 RL 的方法则主要出现在读出端，且 activation patching 将其定位至中间层。在 RLVR 污染场景下，模型行为改变可在不增加基于似然的成员推理信号的情况下发生。
出典：arXiv 机器学习 · arxiv.org