到底是谁的效果？优化目标如何虚增学习子空间干预效果

研究证明在大语言模型激活修补中，学习子空间产生的干预效果超过完整状态，主要源于优化目标的虚增而非更纯净地隔离了概念。理论证明正交部分效果累加等于整体，采用交叉熵的分布式对齐搜索（Distributed alignment search）在几乎所有任务上均会虚增干预效果。将优化目标改为匹配网络实际输出即可消除大部分超额效应，表明仅凭更大的干预变化并不能作为承载概念的更强证据。