大语言模型在工作记忆中存在共同的读出瓶颈

研究发现大语言模型（LLM）在 N-back 任务中的工作记忆瓶颈源于干扰下的信息读出而非定位困难。在 3 个家族涵盖 70M 至 14B 参数的 15 个预训练 LLM 及极简 Transformer 上的实验显示，注意力头在未命中时仍大多指向目标，线性探测能近乎完美区分目标与诱饵位置。抑制非目标项的字母身份可提升敏感度 d'，表明 LLM 的工作记忆限制与人类记忆的干扰理论一致。