arXiv 自然语言处理· Michael Andreev·· 4 小时前AI 评分34
记忆深度与重构上下文宽度：层次化检索的受控评估
Memory Depth and Reconstructed Context Width: A Controlled Evaluation of Hierarchical Retrieval
AI 导读
一项针对大语言模型长程对话记忆的研究表明，将重构上下文宽度从 1K 增加到 4K 可使准确率提升 10.11-17.98 个百分点，而增加记忆结构深度并未带来单调收益。基于 EverMemBench 的评测显示，生产环境下宽度超过 8-16K 后性能趋于平缓，且每个正确回答消耗的 token 持续增加。该结果表明相比构建更深的记忆层级结构，提供大且连贯的上下文块更为有效。
来源：arXiv 自然语言处理 · arxiv.org