自信但不可靠：面向脑部 MRI 的视觉语言模型行为安全审计

英文标题：Confident but Unreliable: A Behavioral Safety Audit of Vision-Language Models on Brain MRI

这篇论文针对视觉语言模型（VLM）在脑部 MRI 场景中的行为安全性开展审计。研究指出，包括医学专用模型在内的 VLM 正越来越多地被用于医学影像任务，但其输出置信度通常未被与实际正确性分开评估。作者将脑部 MRI 作为一个可控且高风险的测试环境，考察模型“自信”与“可靠”之间可能存在的偏差。该问题对医疗 AI 开发者具有重要意义：模型评估不应只关注准确率，还应关注置信度校准及高置信错误带来的临床风险。

2.6 KB 2.1 KB 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB