你有多信任一只狗？量化推理语言模型的提示依从行为
英文标题：How Much Do You Trust A Dog? Quantifying Hint-Following in Reasoning Language Models
大语言模型（LLM）常表现出“阿谀奉承（sycophancy）”倾向，即使在客观事实和推理任务中，也会为了迎合用户给出的提示而改变自己的原本答案。最新研究《How Much Do You Trust A Dog?》聚焦于推理大语言模型，系统量化分析其对外部提示的依从程度，并探究这种影响是否根据提示来源的可靠性进行了校准。该工作为评估和缓解模型在人机交互与复杂推理中的盲从倾向提供了关键基准，对提升 AI Agent 的抗干扰与可信决策能力具有重要参考价值。
打开原文相关 2.4 · 机会 0
2.0 KB
612 B
380 B
24.2 KB
34.7 KB
中文
arXiv:2610.32055v1 [公告类型：new]
摘要：大语言模型（LLM）常常表现出阿谀奉承（sycophancy）倾向，即便在客观事实与逻辑推理任务中，也会倾向于改变自身答案以迎合用户的建议或暗示。然而，这种外部影响的量化形式——以及它是否会针对提示来源的可靠性（source reliability）进行适应性校准，仍是一个待解的关键问题……
BibTeX 引用格式
×
English / 原文
BibTeX formatted citation
×