CaLR:面向鲁棒扩散推理的因果隐空间修正方法
英文标题:CaLR: Causal Latent Revision for Robust Diffusion Reasoning
本研究针对扩散模型的推理瓶颈提出了因果隐空间修正方法(CaLR)。现有的自回归(AR)模型普遍受限于局部贪婪问题,而扩散语言模型(DLM)又往往缺乏严密推理所需的严格因果时序结构。CaLR 旨在融合两者的互补优势并克服各自固有缺陷,为扩散模型在复杂逻辑推理任务中的应用提供了新方案。该方法对探索非自回归架构的因果生成与鲁棒推理能力具有重要参考价值。
打开原文相关 1.6 · 机会 0
612 B
380 B
9.1 KB
32.7 KB
22.8 KB
24.2 KB
34.7 KB
中文
摘要
自回归(AR)模型普遍存在局部贪婪(local greediness)的问题,而扩散语言模型(Diffusion Language Models, DLMs)通常又缺乏严密推理所需的严格因果结构。为了结合两者的优势并克服各自的缺陷,我们提出了因果隐空间修正(Causal Latent Revision,简称 CaLR)。
English / 原文
BibTeX formatted citation
×