arXiv 自然语言处理· HongJin Song, Weiqiao Shan, Runwu Shi, Yifei Wu, Yujin Wang, Jiale Luo, Jiasheng Kuang, Xinyu Yang, Zhaoqi Cui, Chuizheng Kong, Ziyu Wu, Guowu Tan, Qiuyu Fang, Chunxiang Jin·· 8 小时前AI 评分35
仅有正确来源还不够：探究语音大模型记忆中的历史干扰机制
The Right Source Is Not Enough: Understanding History Interference in Speech-LLM Memory
AI 导读
针对 MOSS-Audio 和 MiMo-Audio 的研究揭示了语音大语言模型的记忆干扰机制，证实无关历史音频会引导错误偏向特定竞争答案。因果干预表明开放式问答阻断无关来源可消除多数错误，但选择题中历史影响会经由问题-候选状态持续传递。联合增强被查询角色并抵消历史值纠错效果最佳，表明可靠对话记忆必须控制保留信息如何参与答案计算。
来源：arXiv 自然语言处理 · arxiv.org