不确定性何时能有效衡量 RAG 的幻觉风险？

英文标题：When Does Uncertainty Measure RAG Hallucination Risk?

本研究探讨了检索增强生成（RAG）系统中利用不确定性度量幻觉风险的适用边界。论文指出，不确定性指标仅在检索到的证据能够有效约束模型输出时，才能可靠地衡量幻觉风险。当存在充分证据时，缺乏事实支持的生成内容概率显著降低；但当检索覆盖不足时，该指标的有效性将受到限制。这为开发者优化 RAG 系统的幻觉检测及置信度评估机制提供了关键指导。