arXiv 机器学习· Elisa Tsai, Shao-yu Huang, Daniel Mandragona, Wei-Yu Lin, WenXin Dong, Jevin Jiang, Chandra Devarakonda, Mehdy Bohlool, Yixin Shi·· 15 小时前AI 评分34
CLiS：基于可验证稳定化的 TPU 视频扩散即插即用注意力加速
CLiS: Plug-and-Play Attention Acceleration for Video Diffusion on TPUs via Certified Stabilization
AI 导读
CLiS 是一种针对 TPU 视频扩散推理的免训练即插即用优化方案，通过在 KV loop 前固定逐行稳定因子并认证数值安全加速注意力计算。在 TPU v6e 和 TPU7x 上运行 Wan 2.2 与 LTX-2 时，它在无质量损失下将 DiT 单步延迟降低最多 19.6%。初步实验还显示其在因果 LLM 持续预训练中取得最多 13.5% 的吞吐量提升。
来源：arXiv 机器学习 · arxiv.org