arXiv 自然语言处理· Xiang Ding·· 4 小时前AI 评分35
语言模型保留被放弃的分析：花园路径句后的残留与适应
Language Models Keep Abandoned Analyses: Residue and Adaptation after Garden-Path Sentences
AI 导读
研究发现大语言模型在解析花园路径句后仍保留被放弃分析的残留，在 24 款 124M 至 70B 开源模型中使后续宾语附着提升约真实效应的四分之三。激活补丁显示残留读取自名词短语状态，替换 32B 和 70B 模型的该状态可消除几乎全部残留。被推翻的陈述同样存在该持久性，9 款模型中有 8 款显示旧值仍会持续牵引后续预测。
来源：arXiv 自然语言处理 · arxiv.org