视频大语言模型的免训练推理加速：方法、权衡与评估

英文标题：Training-Free Inference Acceleration for Video Large Language Models: Methods, Trade-offs, and Evaluation

视频大语言模型（VLMs）在长视频理解与时空推理中展现出优异能力，但处理海量视觉序列会带来严重的计算开销、显存占用与推理延迟。本综述系统梳理了面向视频大语言模型的免训练推理加速（Training-Free Inference Acceleration）前沿技术，深入分析了各类方案在加速效率与模型性能之间的权衡取舍。该研究还全面总结了主流评测基准与实验协议，为开发者和研究人员在无需二次微调的情况下低成本部署视频 AI 应用提供了重要参考。

打开原文相关 1.6 · 机会 0

中文

论文信息

arXiv 编号：arXiv:2610.36327v1
发布类型：新论文（new）

摘要

视频大语言模型（Video Large Language Models, VLMs）在视频理解与推理任务中展现出了强大的能力，但处理长视觉序列会带来巨大的计算量、高延迟以及高显存开销。本综述系统探讨了免训练推理加速方法（Training-Free Inference Acceleration），全面剖析了各类加速路径、性能与精度的权衡（Trade-offs），以及现行的评估基准与体系。

视频大语言模型的免训练推理加速：方法、权衡与评估

中文

论文信息

摘要

BibTeX formatted citation

English / 原文

BibTeX formatted citation