arXiv 自然语言处理· Anton Hristov·· 11 小时前AI 评分40
为何要为长推理买单？推理历史压缩对后续生成与智能体成本的因果影响
Why Pay for Long Reasoning When Rewrite Do Trick? Causal Effects of Reasoning History Compaction on Future Generation and Agent Cost
AI 导读
一项研究提出在无需重新训练的情况下将开源模型此前的推理历史重写为紧凑状态记录，发现接受压缩历史通常可缩短后续推理。编程案例测试显示该方法减少了生成候选解后的重复验证，在软件智能体部署中能降低总体花费，但任务质量与包含重写的时间仍取决于目标模型和压缩器。
来源：arXiv 自然语言处理 · arxiv.org