arXiv 机器学习· Jiedong Zhuang, Peng Zhao, Jialin Tang, Haoji Hu·· 7 小时前AI 评分35
SparseGDN：线性注意力中的分块稀疏
SparseGDN: Chunk Sparse in Linear Attention
AI 导读
研究人员提出硬件感知框架 SparseGDN，通过结构化块内近似与动态循环事件选择，降低门控 Delta 网络（GDN）的长上下文 prefill 开销并保持全 token 输出。
来源：arXiv 机器学习 · arxiv.org