跳到正文
原文
arXiv 自然语言处理· Wenhui Chu (University at Albany, State University of New York)·· 4 小时前AI 评分38

当证据变更时:大语言模型智能体记忆修复与重读评估

When Evidence Changes: Evaluating Memory Repair and Re-reading in Language-Model Agents

AI 导读

一项针对大语言模型智能体在证据变更时的评测表明,局部记忆修复虽比重建节省 5-10 倍修订 token,但在短记录下记忆管线成本至少是全量重读的 2 倍。该研究跨两款 7B 模型测试了全流程成本;当记录扩展至约 10,000 tokens 时,记忆累计成本在使用 2-14 次后虽低于全量重读,源过滤重读依然成本最低。

来源:arXiv 自然语言处理 · arxiv.org