通过渐进稀疏化与缩减搜索加速视频生成的稀疏注意力

英文标题：Sparse Attention for Video Generation Acceleration via Growing Sparsity and Reduced Search

该论文提出一种面向视频生成加速的稀疏注意力方法，核心思路是通过逐步增强稀疏性并减少搜索开销，降低注意力计算成本。论文指出，Diffusion Transformers（DiTs）虽主导视频生成，但自注意力的二次复杂度带来了较高的推理成本。稀疏注意力可通过跳过注意力矩阵中的非必要计算缓解这一问题，对需要降低视频生成推理延迟和算力成本的开发者具有参考价值。该工作以 arXiv:2610.21129v1 形式发布，公告类型为 new。

2.1 KB 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB