arXiv 机器学习· Jiedong Zhuang, Peng Zhao, Jialin Tang, Haoji Hu·· 18 時間前AI スコア35
SparseGDN:线性注意力中的分块稀疏
SparseGDN: Chunk Sparse in Linear Attention
未翻訳のため中国語で表示しています。
AI ガイド
研究人员提出硬件感知框架 SparseGDN,通过结构化块内近似与动态循环事件选择,降低门控 Delta 网络(GDN)的长上下文 prefill 开销并保持全 token 输出。
出典:arXiv 机器学习 · arxiv.org