面向可验证奖励强化学习(RLVR)的激活空间引导探索
英文标题:Exploration via Activation-Space Steering for Reinforcement Learning with Verifiable Rewards
该研究针对可验证奖励强化学习(RLVR)中的探索瓶颈,提出通过激活空间引导(Activation-Space Steering)来拓宽模型探索边界。传统的 RLVR 依赖自动化验证器对采样输出进行评分并据此更新策略,仅当模型碰巧生成正确解时才能获得有效学习信号。该方法通过在模型内部激活空间施加定向干预,引导策略探索更广阔且更具潜力的解空间。这为大模型在数学、代码等强验证场景下的强化学习训练提供了全新范式,有助于大幅提高采样效率与推理泛化能力。
打开原文相关 1.6 · 机会 0
612 B
380 B
9.1 KB
18.2 KB
22.8 KB
24.2 KB
34.7 KB
中文
面向可验证奖励强化学习(RLVR)的激活空间引导探索
论文编号:arXiv:2610.27012v1
公告类型:new
摘要
可验证奖励强化学习(Reinforcement learning with verifiable rewards, RLVR)通过采样语言模型的响应,利用自动化验证器进行评分,并根据所得奖励更新策略。因此,该策略仅在……(原文在此处截断:The policy therefore receives direct learning signals onl...)
BibTeX 引用格式
×
English / 原文
BibTeX formatted citation
×