本文へスキップ
原文
arXiv 机器学习· Jiedong Zhuang, Peng Zhao, Jialin Tang, Haoji Hu·· 18 時間前AI スコア35

SparseGDN:线性注意力中的分块稀疏

SparseGDN: Chunk Sparse in Linear Attention

未翻訳のため中国語で表示しています。

AI ガイド

研究人员提出硬件感知框架 SparseGDN,通过结构化块内近似与动态循环事件选择,降低门控 Delta 网络(GDN)的长上下文 prefill 开销并保持全 token 输出。

出典:arXiv 机器学习 · arxiv.org