arXiv 自然语言处理· Kristina \v{S}ekrst, Barbara Geld·2026-10-26 12:00· 8 小时前AI 评分39

自然语言自动编码器仅能识别而非真正解释

Natural Language Autoencoders Identify Without Explaining

AI 导读

自然语言自动编码器（NLA）通过文本重构模型内部激活的机制，仅验证了信息是否足以识别该激活，并未解决描述的忠实性问题。研究指出，生成的文本即使解释错误，也可能包含足以重构激活的信息，这与思维链忠实性问题具有相同结构。NLA 本意是用于对齐的可解释性工具，却通过未经验证的解释重新引入了认知难题。