显式推理步骤是否具有因果承载作用？

英文标题：Are Stated Reasoning Steps Causally Load-Bearing?

这篇新发布的 arXiv 论文探讨：模型写出的思维链（Chain-of-Thought，CoT）推理步骤，是否真实反映了直接产生答案的内部计算过程。论文指出，CoT 监控通常基于这一假设，即模型陈述的推理与其答案生成机制一致。摘要还称，既有忠实性评估大多是行为层面的：通过编辑推理文本并观察结果来衡量其影响。该问题对依赖推理过程开展模型监督、可解释性评估和 Agent 安全审计的开发者具有重要意义。

2.1 KB 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB