奖励高效推理可提升推理模型在信息不足任务中的弃答能力

英文标题：Rewarding Efficient Reasoning Improves Abstention on Underspecified Tasks in Reasoning Models

该研究关注大型推理模型（LRM）在信息不足或任务定义不充分时，是否能够识别自身无法可靠作答并选择弃答。论文指出，尽管现代推理模型在许多任务中能够给出正确答案，但其“知道何时不回答”的能力仍然不足。研究题目表明，对高效推理进行奖励，能够改善模型在此类任务中的弃答表现，这对提升 AI 系统的可靠性、安全性及实际部署中的风险控制具有意义。

2.1 KB 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB