学习预测 MLLM 中间层注意力以进行视觉 Token 剪枝

英文标题：Learning to Predict Middle-Layer Attention in MLLMs for Visual Token Prunin

该论文提出学习预测多模态大语言模型（MLLM）中间层注意力的方法，用于支持视觉 Token 剪枝。MLLM 在各类视觉语言任务中表现强劲，但处理大量视觉 Token 会带来较高计算成本。视觉 Token 剪枝有望降低这一成本，但其效果依赖于对重要 Token 的准确识别。该工作对开发者而言可能有助于在尽量保持任务性能的同时提升视觉语言模型推理效率。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB