Skip to content
Hot storiesContinuously updated

研究者提出ASTC免训练Agent上下文压缩方法

1 reports1 reporting sourcesUpdated 4 hours ago

Start here

AI overview

2026年11月2日,arXiv发表关于面向长程LLM Agent的模型内上下文压缩研究,提出了名为ASTC的免训练压缩方法。该方法利用混合Gated Delta Network(GDN)-attention机制,将已吸收的信息转化为Agent软token进行传递,旨在减少计算开销并生成可复用的KV cache。实验结果显示,ASTC在保持性能的同时能达到或超越未压缩Agent的准确率,并将端到端Attention Pairs减少最高达50.68%。

AI-generated from reports · Updated 4 hours ago

Report timeline

Follow the reports to see different sides of the story.

Nov 2
  1. arXiv 自然语言处理
    基于 Agent 软 token 的长程 LLM Agent 模型内上下文压缩

    ASTC 是一种面向长程 LLM Agent 的免训练模型内上下文压缩方法。它利用混合 Gated Delta Network(GDN)-attention 将已吸收信息转为 Agent 软 token 传递,减少计算开销并生成可复用的 KV cache。实验显示,ASTC 能达到或超越未压缩 Agent 的准确率,端到端 Attention Pairs 减少达 50.68%。

Story heat trend

Current heat 9·Comparable peak 10(Nov 2 14:00)·Comparable change, last 24 hours–

02.557.510Nov2Nov2Nov2Nov2

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.