理解并利用自回归图像生成中的对角注意力稀疏性

英文标题：Understanding and Exploiting Diagonal Attention Sparsity in Autoregressive Image Generation

这篇论文研究自回归图像生成中的对角注意力稀疏性及其利用方法。作者指出，自回归图像生成因与基于 Transformer 的 LLM 服务基础设施兼容，已成为多模态 AI 的一种重要范式。由于每次请求需要生成数千个视觉 token，解码成本会不断增加；该研究旨在通过分析和利用注意力稀疏结构，为提升生成效率提供思路。论文编号为 arXiv:2609.19702v1，发布类型为 new。

2.1 KB 461 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB