研究者提出ASTC免训练Agent上下文压缩方法
Start here
2026年11月2日,arXiv发表关于面向长程LLM Agent的模型内上下文压缩研究,提出了名为ASTC的免训练压缩方法。该方法利用混合Gated Delta Network(GDN)-attention机制,将已吸收的信息转化为Agent软token进行传递,旨在减少计算开销并生成可复用的KV cache。实验结果显示,ASTC在保持性能的同时能达到或超越未压缩Agent的准确率,并将端到端Attention Pairs减少最高达50.68%。
AI-generated from reports · Updated 4 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 自然语言处理基于 Agent 软 token 的长程 LLM Agent 模型内上下文压缩
ASTC 是一种面向长程 LLM Agent 的免训练模型内上下文压缩方法。它利用混合 Gated Delta Network(GDN)-attention 将已吸收信息转为 Agent 软 token 传递,减少计算开销并生成可复用的 KV cache。实验显示,ASTC 能达到或超越未压缩 Agent 的准确率,端到端 Attention Pairs 减少达 50.68%。
Story heat trend
Current heat 9·Comparable peak 10(Nov 2 14:00)·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.