看似合理的解释足以误导多模态裁判模型(MLLM Judges)
英文标题:A Plausible Explanation Is Enough to Mislead Multimodal Judges
多模态大语言模型(MLLMs)在训练与评估流程中正日益广泛地充当“裁判”(Judges),通常会结合答案及其解释进行综合裁决。最新研究表明,即使答案本身存在偏差,仅凭一段看似合理的普通解释就足以对多模态 AI 裁判造成显著误导。这揭示出当前基于“模型即裁判(LLM/MLLM-as-a-Judge)”体系对文本表象敏感性过高的固有缺陷。对开发者和行业而言,在多模态基准评测和强化学习(RLHF/RLAIF)流程中,亟需建立防范“伪合理性解释”干扰的鲁棒性校验机制。
打开原文相关 4 · 机会 0
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
arXiv 编号:2610.22631v1
发布类型:新论文提交通知(Announce Type: new)
摘要
多模态大语言模型(MLLMs)在训练和评估工作流中日益被用作“裁判”(Judges),且往往需要在审查答案的同时结合其背后的解释进行打分。尽管已知 AI 裁判对文本因素具有较高的敏感性,但一段看似合理的普通解释是否足以对其判断构成实质性误导,仍是一个尚未完全厘清的关键问题……
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×