arXiv 自然语言处理· Yunfan Zhang, Taehoon Hwang, Kathleen McKeown, Smaranda Muresan·· 19 小时前AI 评分60
MEMENTO:面向长上下文处理智能体的上下文管理学习方法
MEMENTO: Learning Context Management for Long Context Processing Agents
AI 导读
研究人员提出基于 Qwen3-8B 的长上下文智能体 MEMENTO,通过微调事后笔记轨迹并结合强化学习,训练模型在固定上下文窗口中自主进行信息压缩与管理。在包含高达 2.5M tokens 图书的四个问答基准测试中,MEMENTO 上下文占用始终不超过 20K tokens,将基座准确率从 36.9% 提升至 67.8%。
来源:arXiv 自然语言处理 · arxiv.org