arXiv 自然语言处理· Yancheng Zhu, Yifan Yuan·· 8 小时前AI 评分54
论文揭示大语言模型长对话中的状态完整性崩溃现象
When LLMs Forget What They Believe: Characterizing State Integrity Collapse in Long-Horizon Dialogues
AI 导读
大语言模型在长对话中经常出现能复述指令却停止遵守的现象，研究团队将其定义为“状态完整性崩溃”。基于涵盖五类约束的 StateTrack-Bench 评测显示，高达 88.6% 的失效源自行为漂移而非真正遗忘，且在最多 50 轮对话中持续存在。研究提出的结构化状态锚定方法可在不可变约束上挽回至多 24.4 分，相关代码与评测资源已开源。
来源：arXiv 自然语言处理 · arxiv.org