arXiv 机器学习· Bahareh Nikpour, Hossein Rajabzadeh, Maryam Dialameh, Vahid Partovi Nia, Parsa Omidi·· 8 小时前AI 评分41
Kronecker Product Attention：通过结构化分解实现显存高效的 KV 压缩
Kronecker Product Attention: Memory-Efficient KV Compression via Structured Factorization
AI 导读
研究人员提出 Kronecker Product Attention（KPA），将键和值激活表示为紧凑、依赖于 token 的矩阵因子的克罗内克积之和，以缓解 KV cache 显存占用问题。
来源：arXiv 机器学习 · arxiv.org