大语言模型在不相信输入数据时会犯更多错误吗?
英文标题:Do LLMs Make More Mistakes If They Do Not Believe the Input Data?
大语言模型(LLM)极易产生幻觉或曲解事实,这直接影响了它们在检索增强生成(RAG)或数据到文本(data-to-text)系统中的可用性。本项 arXiv 研究探讨了 LLM 对给定上下文的忠实度如何受其对输入数据合理性(plausibility)预先判断的影响。通过分析模型先验信念与输入上下文之间的知识冲突,研究揭示了模型幻觉触发的深层机制。这一结论为开发者设计 RAG 提示词、缓解先验偏差及优化知识融合提供了重要的参考依据。
打开原文相关 3.2 · 机会 0
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
arXiv 编号:arXiv:2609.09363v1
公告类型:最新(new)
摘要
大型语言模型(LLM)容易产生幻觉或误读事实,这削弱了它们在检索增强生成(RAG)或数据到文本(data-to-text)系统中的可用性。我们分析了 LLM 对所提供上下文的忠实度如何取决于这些数据在模型认知中的合理性(plausibility)……
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×