论文研究 arXiv cs.CL Mon, 19 Oct 2026 正文 thin 4 words

看似合理的解释足以误导多模态裁判模型(MLLM Judges)

英文标题:A Plausible Explanation Is Enough to Mislead Multimodal Judges

多模态大语言模型(MLLMs)在训练与评估流程中正日益广泛地充当“裁判”(Judges),通常会结合答案及其解释进行综合裁决。最新研究表明,即使答案本身存在偏差,仅凭一段看似合理的普通解释就足以对多模态 AI 裁判造成显著误导。这揭示出当前基于“模型即裁判(LLM/MLLM-as-a-Judge)”体系对文本表象敏感性过高的固有缺陷。对开发者和行业而言,在多模态基准评测和强化学习(RLHF/RLAIF)流程中,亟需建立防范“伪合理性解释”干扰的鲁棒性校验机制。
打开原文相关 4 · 机会 0
media2.1 KB media612 B media380 B media9.1 KB media32.7 KB media22.8 KB media24.2 KB media34.7 KB

中文

arXiv 编号:2610.22631v1
发布类型:新论文提交通知(Announce Type: new)

摘要

多模态大语言模型(MLLMs)在训练和评估工作流中日益被用作“裁判”(Judges),且往往需要在审查答案的同时结合其背后的解释进行打分。尽管已知 AI 裁判对文本因素具有较高的敏感性,但一段看似合理的普通解释是否足以对其判断构成实质性误导,仍是一个尚未完全厘清的关键问题……

BibTeX 格式引用

×

English / 原文

BibTeX formatted citation

×