高斯先验何时失效？强化学习微调下的潜空间几何特性探究
英文标题：When Do Gaussian Priors Fail? A Latent Geometry Investigation of RL Fine-Tuning
本研究深入探讨了潜扩散模型（Latent Diffusion Models）在强化学习（RL）微调过程中，变分自编码器（VAE）潜空间高斯先验的结构性局限。研究指出，尽管高斯先验在基础生成任务中表现良好，但在 RL 微调下，标准 VAE 的 KL 散度约束会引发潜在空间几何层面的结构缺陷。该结论揭示了扩散模型对齐与优化过程中表征空间的深层瓶颈，为改进文生图及多模态模型的强化学习微调算法提供了重要参考。
打开原文相关 2.4 · 机会 0
2.0 KB
612 B
380 B
24.2 KB
34.7 KB
中文
论文信息
- arXiv 编号：arXiv:2610.28849v1
- 公告类型：新论文（new）
摘要
潜扩散模型（Latent Diffusion Models, LDMs）几乎普遍在变分自编码器（VAE）潜空间上采用高斯先验分布。对于基础生成任务，这一默认设置并无不妥；然而在强化学习（RL）微调场景下，它却带来了结构性局限。标准 VAE 的 KL 散度约束……
BibTeX 格式引用
×
English / 原文
BibTeX formatted citation
×