arXiv 自然语言处理· Jiwon Song, Yoongon Kim, Jae-Joon Kim·· 6 小时前AI 评分41
用于长上下文高效解码的联合子空间稀疏注意力 JSSA
Joint Subspace Sparse Attention for Efficient Long-Context Decoding
AI 导读
研究人员提出联合子空间稀疏注意力（JSSA），通过学习共享低维查询-键子空间与免 gather 的索引注意力内核，解决长上下文 LLM 解码中的 token 选择精度与延迟开销问题。
来源：arXiv 自然语言处理 · arxiv.org