arXiv 自然语言处理· Ding Wu, Ye Zhang, Haoyu Wang, Tianci Liu·· 3 小时前AI 评分33
通过聚焦视图提升非结构化知识编辑中的原子事实召回能力
Improving Atomic-Fact Recall via Focused Views in Unstructured Knowledge Editing
AI 导读
针对大语言模型在非结构化知识编辑中脱离原段落后难以独立召回原子事实的问题，研究人员提出了即插即用框架 FOVEATED。该方法在编辑阶段通过随机偏移前文 key 的 RoPE 位置编码构建聚焦视图，推理时保持原生位置编码不变。实验表明，FOVEATED 在 5 个知识编辑器、2 个 LLM 主干和 3 个基准测试中均取得了一致提升。
来源：arXiv 自然语言处理 · arxiv.org