通过混合模式优势正则化缓解大型推理模型中的事实幻觉

英文标题：Mitigating Factual Hallucination in Large Reasoning Models via Mixed-Mode Advantage Regularization

本研究针对大型推理模型（LRM）在事实型问答中因显式思维链过程而可能引入事实幻觉的问题，提出了一种名为混合模式优势正则化（Mixed-Mode Advantage Regularization, MAR）的新方法。MAR 在强化学习框架下，通过区分并正则化无干扰推理与带潜在幻觉推理的行为优势，有效抑制了与事实不符的推理轨迹。实验表明，该方法在多个基准上显著降低了幻觉率，同时保持甚至提升了答案准确性，为构建更可靠的推理型 AI 系统提供了实用训练策略。

2.6 KB 2.1 KB 612 B 380 B 9.1 KB 22.8 KB 24.2 KB 34.7 KB