推理一致性扫描：审计AI安全评估中思维链有效性的框架

英文标题：Reasoning Consistency Scanning: A Framework for Auditing Chain-of-Thought Validity in AI Safety Evaluations

此前研究已表明思维链推理经常不可靠：模型陈述的推理过程并不能可靠反映其输出所依据的真实过程。为此，本文提出“推理一致性扫描”框架，通过受控实验干预来检测思维链的不一致性。该框架为开发者和安全评估人员提供了一种审计模型推理真实性的新方法，有助于提升AI系统的可解释性与可信度。

2.6 KB 2.1 KB 640 B 612 B 380 B 9.1 KB 22.8 KB 24.2 KB 34.7 KB