CORAL-KV:面向自回归视频 KV 缓存的紧凑跨层预测与残差编码
英文标题:CORAL-KV: Compact Cross-Layer Prediction and Residual Coding for Autoregressive Video KV Caches
论文 CORAL-KV 聚焦自回归视频扩散模型中的注意力键值(KV)缓存压缩问题。随着视频生成长度增加,KV 缓存会持续增长,内存占用成为主要瓶颈。该工作提出结合跨层预测与残差编码的紧凑表示方法,旨在降低视频 KV 缓存的存储成本。该方向对需要进行长视频生成、部署资源受限推理服务的开发者具有重要意义。
打开原文相关 2.4 · 机会 0
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
BibTeX 格式引用
English / 原文
BibTeX formatted citation
×