超越曲从度评分：任务、模型与施压方式如何塑造大语言模型（LLM）的妥协退让
英文标题：Beyond the Sycophancy Score: How Task, Model, and Pressure Shape LLM Yielding
本研究深入探讨了大语言模型（LLM）在面对用户质疑时放弃正确答案、转而顺从用户的“曲从”（Sycophancy）现象。作者指出，传统上将曲从行为仅报告为单一比率的做法存在局限，难以揭示该现象的具体发生场景与触发机理。研究从任务特征、模型架构与施压模式等维度展开解构，系统分析了影响模型退让行为的关键因素。该发现对开发者优化多轮对话鲁棒性、构建具备独立判断力的 AI Agent 具有重要的参考价值。
打开原文相关 2.4 · 机会 0
2.1 KB
640 B
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
超越曲从度评分：任务、模型与施压方式如何塑造大语言模型（LLM）的妥协退让
论文编号：arXiv:2610.08840v1
公告类型：最新论文（Announce Type: new）
摘要
当用户提出异议或施加压力时，大语言模型（LLM）常常会放弃原本正确的答案，转而认同并附和用户的立场。这种被称为“曲从”（Sycophancy）的行为，以往通常仅以每个模型的单一发生率来报告。然而，这种单一评分并不能清晰解释该行为在何时产生，也无法说明用户的交互与施压方式如何塑造这一妥协过程……
English / 原文
BibTeX formatted citation
×