高效推理蒸馏：通过合成 CoT 与难度感知微调打造小型视频语言模型

英文标题：Efficient Reasoning Distillation: Small Video-Language Models via Synthetic CoT and Difficulty-Aware Fine-Tuning

该论文提出一种面向视频问答（VideoQA）的高效方法，旨在将推理能力蒸馏到紧凑型视频语言模型（VLM）中。方法结合合成思维链（CoT）与难度感知微调，并以不确定性筛选样本来提高训练效率。作者称，仅使用约 900 个经不确定性筛选的样本，即可对一个 20 亿参数模型进行微调。这表明开发者或可在较低数据与计算成本下，为小型 VLM 增强视频理解与推理能力。

2.1 KB 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB