研究提出评估大模型特征真实机制使用的新方法

2026年10月7日，相关研究在arXiv发布，探讨大语言模型是否真实利用了内部特征。研究指出，能够操控行为的内部特征并不代表大模型实际在内部计算中使用了该特征，且操控可能超出了特征的自然取值范围。为此，研究提出在自然输入取值下，通过安装、移除与下游恢复测试来评估特征的充分性与真实使用程度。对Gemma和Llama等模型的实验表明，仅凭概念追踪和行为操控，无法证明模型在机制上使用了对应特征。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。