H-OPD：置信度感知的异构多教师多模态在线策略蒸馏

近日，arXiv 上公开了题为《H-OPD: Confidence Aware Heterogeneous Multi-Teacher Multimodal On-policy Distillation》的研究论文（arXiv:2607.02592v1）。该工作聚焦于在线策略蒸馏（On-policy Distillation, OPD）这一后训练范式，旨在为多模态推理任务提供更有效的知识迁移方案。

研究背景与动机

在线策略蒸馏的核心思想是利用教师模型对学生模型实时生成的轨迹提供监督信号。然而，当前面向多模态推理的 OPD 方法多采用固定的教师路由机制，即无论学生生成何种质量的输出，都机械地调用同一批教师模型。这种做法忽略了不同教师在不同样本、不同模态下的相对优势，容易限制知识传递的效率。为此，论文提出了 H-OPD，一种置信度感知的异构多教师多模态在线策略蒸馏技术。

方法与创新

H-OPD 引入了一个置信度感知的动态路由模块。在学生每完成一步生成后，系统会评估当前轨迹的置信度，并依据该置信度从一组异构教师（例如擅长文本、视觉或符号推理的不同专家模型）中按需选取最合适的教师进行指导。这种方式使得蒸馏过程能够：

• 优先调用与学生当前困惑区域最对口的专家；
• 降低不相关教师的无效干预；
• 在多模态融合推理场景下保持梯度的准确性与多样性。

论文在多个多模态推理基准上验证了 H-OPD 的效果，结果显示采用动态置信度路由后，学生模型不仅收敛速度更快，最终准确率也显著优于静态路由基线。尤其当教师集合中的模型在能力上存在明显异构性时，H-OPD 的优势更加突出。

对开发者与行业的意义

对于正在构建多模态大模型蒸馏管线的开发者，H-OPD 提供了一套通用的即插即用框架。该框架无需改造教师模型本身，仅需在学生层面集成轻量的置信度评估与路由策略即可实现性能增益。在 API 成本控制日趋重要的当下，利用多个专业化小模型（或 API）作为异构教师来训练一个紧凑型学生模型，有望在保持能力的同时降低推理开支。该思路也对 Agent 系统中多模型协同、动态能力兜底等设计具有启发意义。

BibTeX 格式引用

bibtex @article{H-OPD2607.02592, title = {H-OPD: Confidence Aware Heterogeneous Multi-Teacher Multimodal On-policy Distillation}, author = {Authors not specified in excerpt}, year = {2026}, eprint = {2607.02592}, archiveprefix = {arXiv}, primaryclass = {cs.CV} }

注：本文基于 arXiv 摘要及公开元数据编译，详细方法、实验数据与作者信息请参阅原论文。

BibTeX formatted citation

×