Agent 知道自己何时成功吗？从内部表征校准 Agent 置信度

英文标题：Do Agents Know When They Succeed? Calibrating Agent Confidence from Internal Representations

该论文关注 Agent 在安全关键应用中快速普及后，其行动置信度的测量问题。作者指出，相较于传统机器学习系统，Agent 工作流具有更复杂的失败模式，因此需要更可靠的置信度校准方法。论文题目表明，研究将从 Agent 的内部表征出发，探讨其是否能够判断自身任务是否成功。所提供原文仅包含截断的摘要，未给出具体方法、实验数据或结论。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB