arXiv 自然语言处理· Or Shafran, Mor Geva·2026-10-07 12:00· 5 小时前AI 评分40

容量、响应度与对齐度：是什么让语言模型的潜结构具备可操作性

Capacity, Responsiveness and Alignment: What Makes a Latent Structure Actionable

AI 导读

一项研究将语言模型潜结构的因果影响力归结为容量（capacity）、响应度（responsiveness）和对齐度（alignment）三个核心约束因子。在 4 个 LM 家族和 50 个概念上的实验表明，低容量与低响应度分别使因果有效性降低 84% 和 95%，低对齐度则会反向抑制概念表达。