arXiv 机器学习· Wang Ru·· 1 小时前AI 评分38
高斯先验何时失效？强化学习微调下的潜在几何结构研究
When Do Gaussian Priors Fail? A Latent Geometry Investigation of RL Fine-Tuning
AI 导读
研究表明潜在扩散模型普遍采用的高斯先验在强化学习微调下存在结构性缺陷，多模态数据会导致模式重叠并被强化学习放大。在丙氨酸二肽玻尔兹曼分布测试中，高斯先验 VAE 的崩溃边界为 beta_c = 0.224，而模式跟踪高斯混合先验为 0.00316，差距达 71 倍。研究指出当潜在几何发生重叠且任务对覆盖率敏感时，采用非高斯先验是必要的补救方案。
来源：arXiv 机器学习 · arxiv.org