VLMProbe：用于视觉语言模型（VLM）探测与可解释性分析的开源库
英文标题：VLMProbe: An Open-source Library for VLM Probing and Interpretation
理解视觉语言模型（VLM）如何处理和利用视觉信息，需要建立模型内部表征与实际输出行为之间的关联。为此，研究团队推出了开源库 VLMProbe，专注于多模态模型的内部机制探测与可解释性分析。该库集成了透镜读出（lens readouts）、注意力归因（attention attribution）和因果干预（causal interventions）等分析方法。VLMProbe 为开发者和研究人员提供了统一的工具链，有助于深入剖析多模态黑盒机制、诊断幻觉问题并推动可信 AI 的发展。
打开原文相关 1.6 · 机会 2
2.0 KB
461 B
612 B
380 B
24.2 KB
34.7 KB
中文
arXiv:2610.33072v1 公告类型：新提交（new）
摘要：理解视觉语言模型（VLM）如何利用视觉信息，需要将模型的内部表征与其行为建立联系。我们推出了 vlmprobe，这是一个开源库，集成了透镜读出（lens readouts）、注意力归因（attention attribution）、因果干预（causal interventions）以及……
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×