研究发现人设提示词改变大模型内部表征并影响监控有效性

2026年11月5日，arXiv发表的最新论文发现，通过提示词为大语言模型设定政治人设，会系统性改变其潜空间的表征几何结构，影响9,000多个常用词在33个语义轴上的投影以及语义轴之间的对齐关系。测试显示，未针对人设训练的线性探针与稀疏自编码器（SAE）分类器在带有人设的模型上运行时，会在真实性与道德性评估中产生政治倾斜。该发现表明模型内部表征会随人设产生几何变化，可能削弱现存可解释性监控手段的有效性。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。