稀疏自编码器中的表征再分配研究

研究者提出了重分配敏感度得分（RSS），用于识别稀疏自编码器（SAE）中在一致方向上反复出现的大幅特征响应。跨 8 个语言模型的 27 个预训练 SAE 实验显示，提示词变换会在测试变体上产生可复现的再分配特征分布。在两个冻结安全读出实验中，结合 RSS 支持削弱与完整干净裕度，仅用中位数 19 和 20 个特征即可取得 0.958 和 0.935 的循环失效 AUROC。