arXiv 机器学习· Jiedong Zhuang, Peng Zhao, Jialin Tang, Haoji Hu·· 4 hours agoAI score35
SparseGDN：线性注意力中的分块稀疏
SparseGDN: Chunk Sparse in Linear Attention
Not yet translated; shown in Chinese.
AI guide
研究人员提出硬件感知框架 SparseGDN，通过结构化块内近似与动态循环事件选择，降低门控 Delta 网络（GDN）的长上下文 prefill 开销并保持全 token 输出。
Source:arXiv 机器学习 · arxiv.org