Oddin:基于图像生成自蒸馏的统一多模态模型隐式视觉推理
英文标题:Oddin: Latent Visual Reasoning in Unified Multimodal Models via Self-Distillation from Image Generation
统一多模态大模型(ULMM)虽能通过交织图文生成实现视觉推理,但生成显式的中间图像会产生高昂的计算开销。新研究提出的 Oddin 框架通过从图像生成过程中进行自蒸馏,使模型能够进行隐式视觉推理(Latent Visual Reasoning)。该方案在消除显式渲染中间图像计算负担的同时保留了视觉推理能力,为多模态模型在边缘设备或高吞吐生产环境中的低成本推理与部署提供了有效借鉴。
打开原文相关 4 · 机会 0
640 B
612 B
380 B
24.2 KB
34.7 KB
中文
摘要
arXiv:2610.33062v1 通告类型:新提交
统一多模态大模型(ULMM)能够通过交错的图文生成来执行视觉推理,但生成显式的中间图像会带来显著的计算开销。隐式视觉推理(Visual latent reasoning)旨在解决这一问题……
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×