arXiv 自然语言处理· XinYu Piao, Myunghoon Ryu, Joongheon Kim, Jong-Kook Kim·· 7 小时前AI 评分39
SKIM:面向冻结语言模型无外部存储对话召回的自键控参数内记忆方法
Self-Keyed In-Parameter Memorization for External Memory-Free Dialogue Recall in Frozen Language Models
AI 导读
研究人员提出自键控参数内记忆方法 SKIM,使冻结语言模型在无需外部存储的情况下,将对话内容直接存入模型参数并实现后续召回。该方法让模型为每个对话轮次自生成多样化问题作为检索键写入参数,支持不同表述的用户提问直接从参数中提取答案。在 5 个语言模型上的评测表明,SKIM 仅依靠模型参数即可召回大部分已存储的对话轮次。
来源:arXiv 自然语言处理 · arxiv.org