面向大语言模型推理的稀疏强化学习松弛方法

英文标题：Sparse RL Relaxation for LLM Reasoning

近期学术界积极探索在思维链（Chain-of-Thought, CoT）推理中利用连续表征替代离散 token，这一范式常被称为“软思维链”（soft CoT）。其核心设想在于，通过 token 嵌入的混合来表示多条推理路径或语义的叠加态，从而突破传统离散自回归采样的局限。本研究针对 LLM 推理提出稀疏强化学习松弛（Sparse RL Relaxation）机制，以解决连续动作空间下的探索效率与稳定性难题。该技术为开发具备高效探索能力和超越离散文本生成限制的新一代大模型推理架构提供了重要参考。

2.0 KB 461 B 612 B 380 B 9.1 KB 18.2 KB 22.8 KB 24.2 KB 34.7 KB