研究称自然语言自编码器无法保证内部激活描述忠实性

2026年10月26日，arXiv发布的研究指出，自然语言自动编码器（NLA）通过文本重构模型内部激活的机制，仅验证了信息是否足以识别该激活，并未解决描述的忠实性问题。研究表明，生成的文本即使解释错误，也可能包含足以重构激活的信息，该现象与思维链忠实性问题具有相同结构。作为本意用于对齐的可解释性工具，NLA通过未经验证的解释重新引入了认知难题。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。