标签:贝叶斯推断
- 笔记 KL 正则 RL 的贝叶斯后验视角
从贝叶斯法则推出 KL 正则 RL 的目标分布是以基座为先验、以奖励为似然的后验,RL 目标是它的 ELBO;由此解释分布坍缩、多样性下降、无法超出基座和重复 RL 的效果,并说明框架的局限。
- 笔记 损失函数的概率解释:从贝叶斯推断到轨迹生成中的 MSE 与交叉熵
说明先验、似然、后验的关系,最大似然、最大后验与 MSE、交叉熵的推导,以及分类中交叉熵梯度优于 MSE 的原因;讨论两类损失在轨迹生成中的适用范围:多峰分布、混合密度、赢者通吃、轨迹词表与自回归。