迈向可扩展的 RLVR:多模态指令遵循的数据合成与蒸馏
英文标题:Towards Scalable RLVR: Multimodal Instruction Following Data Synthesis and Distillation
多模态指令遵循(MMIF)是构建通用 Agent 的关键能力。然而,现存主流训练范式严重依赖监督微调(SFT),容易诱发浅层模式匹配并削弱模型的通用能力。该研究探索了面向可验证奖励强化学习(RLVR)的可扩展数据合成与蒸馏方法,为解决多模态大模型在复杂指令遵循中的泛化瓶颈提供了新的演进路径。
打开原文相关 4.8 · 机会 1
483 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
arXiv:2609.16059v1 (Announce Type: new)
摘要
多模态指令遵循(Multimodal Instruction Following, MMIF)对于构建通用 Agent 至关重要。然而,当前的训练范式严重依赖监督微调(Supervised Fine-Tuning, SFT),这往往会导致模型仅进行表层模式匹配,并损害其通用能力。
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×