奖励信息稀疏自编码器与解答完整性混淆因素

英文标题：Reward-Informed Sparse Autoencoders and the Solution-Completeness Confound

论文研究如何利用强化学习产生的奖励信号，为稀疏自编码器（SAE）筛选数据，以使其更聚焦于语言模型的推理过程。SAE 可将语言模型激活分解为稀疏且具有可解释性的特征。论文标题指出，基于奖励的 SAE 方法可能受到“解答完整性”这一混淆因素影响。该工作对希望利用可解释性工具分析或引导推理模型行为的开发者和研究者具有参考意义。

2.1 KB 640 B 612 B 380 B 9.1 KB 32.7 KB 22.8 KB 24.2 KB 34.7 KB