LLM 知道约束却不加以利用：语用约束推理中的激活瓶颈

英文标题：LLMs Know the Constraint But Do Not Use It: Activation Bottlenecks in Pragmatic Constraint Reasoning

论文指出，当显著的表层线索与隐含的可行性约束发生竞争时，大语言模型（LLM）往往会推理失败。作者认为，单纯汇总准确率会混淆两种不同情况：真正进行了约束推断，以及采取保守默认策略。研究将这一问题形式化为“条件约束激活”，旨在分析模型何时能够识别约束、却未能在实际推理中调用该约束。这一发现对评估 Agent 和基于 LLM 的决策系统具有意义：模型的知识储备并不必然意味着其会在关键情境下正确运用相关约束。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB