大语言模型中的信息辨别能力

英文标题：Information Discernment in Large Language Models

论文探讨大语言模型（LLM）在使用互联网等外部知识源时，能否恰当地评估不同信息的可信度。研究关注两类能力：来源辨别，即模型是否会对更可靠的来源给予更大权重；真实性辨别，即当新主张使既有先验更接近事实时，模型是否会进行更大幅度更新。该问题对依赖检索、网页信息和外部工具的 AI Agent 及应用开发者具有重要意义，因为模型的信息加权方式会直接影响其回答的可靠性与决策质量。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB