损失函数的概率解释:从贝叶斯推断到轨迹生成中的 MSE 与交叉熵

2026-10-06笔记机器学习损失函数最大似然贝叶斯推断轨迹生成

监督学习的损失函数可以由概率模型导出:给定输入 xx模型指定目标 yy 的条件分布 pθ(y∣x)p_\theta(y \mid x)损失是该分布下观测数据的负对数似然(Negative Log-Likelihood,NLL)。下面先说明先验、似然与后验的关系,以及最大似然估计(Maximum Likelihood Estimation,MLE)、最大后验估计(Maximum A Posteriori,MAP)与 NLL 的对应;再推导均方误差(Mean Squared Error,MSE)和交叉熵(Cross-Entropy,CE)各自对应的分布假设,并从梯度的角度解释分类为什么用交叉熵而不用 MSE;最后以轨迹生成为例,讨论两类损失的适用范围和多峰分布下的处理方法。

先验、似然与后验

设训练集 D={(xi,yi)}i=1ND = \{(x_i, y_i)\}_{i=1}^{N}样本独立同分布;模型的参数为 θ\theta贝叶斯方法把 θ\theta 看作随机变量。这里的随机性表示我们对参数的不确定性(信念),并不是说参数在现实中随机变化;θ\theta 完全可以是一个固定但未知的值。频率学派把 θ\theta 看作固定常数,随机的是数据 DD贝叶斯方法则把已观测的 DD 看作固定,用分布 p(θ)p(\theta) 和 p(θ∣D)p(\theta \mid D) 表达 θ\theta 的不确定性。贝叶斯方法涉及四个量:

名称记号含义
先验(prior)p(θ)p(\theta)观测数据之前,对参数取值的信念
似然(likelihood)p(D∣θ)p(D \mid \theta)固定 DD 时 θ\theta 的函数,表示参数为 θ\theta 时观测到 DD 的概率;对 θ\theta 积分不等于 1,不是 θ\theta 的概率分布
证据(evidence)p(D)=∫p(D∣θ) p(θ) dθp(D) = \int p(D \mid \theta)\,p(\theta)\,d\theta与 θ\theta 无关的归一化常数
后验(posterior)p(θ∣D)p(\theta \mid D)观测数据之后,对参数取值的信念

全文的符号约定如下。

符号含义
iikktt分别为样本下标、类别或模态下标、轨迹的时间步
KK类别数与模态数
p(θ)p(\theta)p(D∣θ)p(D \mid \theta)p(θ∣D)p(\theta \mid D)贝叶斯框架中的先验、似然与后验
θ^\hat\theta参数的点估计
pθ(y∣x)p_\theta(y \mid x)参数为 θ\theta 时模型给出的条件分布,即 p(y∣x,θ)p(y \mid x, \theta)
p(x)p(x)p(y)p(y)p(y∣x)p(y \mid x)数据的真实分布
p^\hat p训练数据的经验分布
fθ(x)f_\theta(x)πk(x)\pi_k(x)μk(x)\mu_k(x)模型的输出,均依赖 θ\theta下标从略
zzπ\pi二分类输出层的预激活值(logit)与正例概率 π=π1\pi = \pi_1
yyτ\tauyy 为目标的一般记号,目标为轨迹时记为 τ\tau

三者由贝叶斯公式联系:

p(θ∣D)=p(D∣θ) p(θ)p(D)∝p(D∣θ) p(θ)p(\theta \mid D) = \frac{p(D \mid \theta)\,p(\theta)}{p(D)} \propto p(D \mid \theta)\,p(\theta)

后验是用似然修正先验得到的:数据越多,似然的作用越大,先验的作用越小。

似然 p(D∣θ)p(D \mid \theta) 有两种读法。固定 θ\theta 时,它是 DD 的概率分布,对 DD 求和等于 1;固定 DD 时,它是 θ\theta 的函数,对 θ\theta 积分不保证等于 1。以抛硬币为例,设 θ\theta 为正面朝上的概率。抛 1 次得到正面时,p(D∣θ)=θp(D \mid \theta) = \theta对 DD 求和为 θ+(1−θ)=1\theta + (1 - \theta) = 1对 θ\theta 积分为 ∫01θ dθ=12\int_0^1 \theta\,d\theta = \frac{1}{2}抛 10 次得到含 7 次正面、3 次反面的指定序列时,∫01θ7(1−θ)3 dθ=11320\int_0^1 \theta^7 (1 - \theta)^3\,d\theta = \frac{1}{1320}积分值随数据变化,不是合法的分布。

因此,似然的相对大小有意义,绝对大小不能解读为 θ\theta 取该值的概率;贝叶斯公式需要证据 p(D)p(D) 做归一化,原因也在于此。把似然当作 θ\theta 的概率,是混淆了 p(D∣θ)p(D \mid \theta) 与 p(θ∣D)p(\theta \mid D)

判别模型只建模条件分布 pθ(y∣x)p_\theta(y \mid x)并以输入 x1,…,xNx_1, \dots, x_N 为条件。在独立同分布假设下,似然为 p(D∣θ)=∏ipθ(yi∣xi)p(D \mid \theta) = \prod_i p_\theta(y_i \mid x_i)输入的分布 p(x)p(x) 不含 θ\theta不进入似然。因此损失函数的形式只取决于对 pθ(y∣x)p_\theta(y \mid x) 的假设,与 p(x)p(x) 和 p(y)p(y) 无关。

最大似然与最大后验

独立样本的似然是连乘,取对数后化为求和。对似然取负对数并按样本数平均,得到负对数似然:

LNLL(θ)=−1N∑i=1Nlog⁡pθ(yi∣xi)\mathcal{L}_{\text{NLL}}(\theta) = -\frac{1}{N}\sum_{i=1}^{N} \log p_\theta(y_i \mid x_i)

其中 pθ(yi∣xi)p_\theta(y_i \mid x_i) 是模型在输入 xix_i 时分配给真实目标 yiy_i 的概率。从似然到 NLL 依次做了三步:取对数,把连乘变成求和;取负号,把最大化变成最小化;除以 NN取平均。取对数有三个原因:连乘在数值上易下溢,如 0.51000≈10−3010.5^{1000} \approx 10^{-301}连乘不便求导;对数单调,不改变最优解的位置。

例如,猫狗分类中第 3 张图的真实标签为猫,模型输出猫 0.8、狗 0.2,则 pθ(y3∣x3)=0.8p_\theta(y_3 \mid x_3) = 0.8三个样本的该概率分别为 0.8、0.9、0.5 时,似然为 0.36,NLL 为 −13(ln⁡0.8+ln⁡0.9+ln⁡0.5)≈0.34-\frac{1}{3}(\ln 0.8 + \ln 0.9 + \ln 0.5) \approx 0.34任一样本的预测很差,都会拉低整体似然。

两种点估计分别为

θMLE=arg⁡min⁡θ LNLL(θ)θMAP=arg⁡min⁡θ [LNLL(θ)−1Nlog⁡p(θ)]\begin{gathered} \theta_{\text{MLE}} = \arg\min_\theta\ \mathcal{L}_{\text{NLL}}(\theta) \\ \theta_{\text{MAP}} = \arg\min_\theta\ \Big[\mathcal{L}_{\text{NLL}}(\theta) - \tfrac{1}{N}\log p(\theta)\Big] \end{gathered}

MLE 给出使数据出现概率最大的 θ\theta只使用似然,并不是后验概率最大的 θ\theta上述抛硬币的例子中,似然 θ7(1−θ)3\theta^7(1 - \theta)^3 在 θ=0.5\theta = 0.50.70.70.90.9 处分别约为 0.00098、0.0022、0.00048,极大值在 θMLE=0.7\theta_{\text{MLE}} = 0.7 处。MAP 取后验的众数,在 NLL 之外多出一项 −1Nlog⁡p(θ)-\frac{1}{N}\log p(\theta)这一项就是正则项。先验为均匀分布时 MAP 退化为 MLE;N→∞N \to \infty 时似然项占主导,二者趋于一致。先验与正则项的对应如下:

先验 p(θ)p(\theta)−log⁡p(θ)-\log p(\theta)正则项
均匀常数无
高斯 N(0,ρ2I)\mathcal{N}(0, \rho^2 I)12ρ2∥θ∥22+const\frac{1}{2\rho^2}\lVert\theta\rVert_2^2 + \text{const}L2
拉普拉斯,尺度 bb1b∥θ∥1+const\frac{1}{b}\lVert\theta\rVert_1 + \text{const}L1

注意:先验针对参数 θ\theta噪声分布针对目标 yy二者相互独立。 高斯先验决定是否用 L2 正则,高斯噪声决定是否用 MSE,两者可以任意组合。

MLE 和 MAP 都是点估计:把 θ\theta 压缩成单个值 θ^\hat\theta预测时只用这一个值,即 p(y∣x)≈pθ^(y∣x)p(y \mid x) \approx p_{\hat\theta}(y \mid x)训练一个网络、得到一组 θ\theta就是点估计。点估计丢掉了 θ\theta 的不确定性:数据较少时,多组 θ\theta 都能解释数据,点估计只取其中一组。完整的贝叶斯推断[1]不取点估计,而是用后验作权重,对各个 θ\theta 的预测取平均,得到预测分布:

p(y∣x,D)=∫pθ(y∣x) p(θ∣D) dθp(y \mid x, D) = \int p_\theta(y \mid x)\,p(\theta \mid D)\,d\theta

p(y∣x,D)p(y \mid x, D) 读作给定 xx 与 DD 时 yy 的条件分布。式中没有 θ\theta因为 θ\theta 已经被积分掉了;参数固定为 θ\theta 时的预测则记为 pθ(y∣x)p_\theta(y \mid x)例如三组参数的后验权重为 0.5、0.3、0.2,各自预测“猫”的概率为 0.9、0.6、0.2。取权重最大的一组参数,预测概率为 0.9;完整的贝叶斯推断给出 0.5×0.9+0.3×0.6+0.2×0.2=0.670.5 \times 0.9 + 0.3 \times 0.6 + 0.2 \times 0.2 = 0.67预测更保守。

深度网络的后验无法解析计算,需要近似。

备注: 完整的贝叶斯推断在深度学习中不是主流的训练方式。大模型几乎都使用点估计(MLE,或带 L2 正则的 MAP),原因是后验的计算成本高、参数规模大,而大数据下点估计已足够好。常用的近似方法有:深度集成(Deep Ensembles)[2],训练多个初始化不同的网络并对预测取平均;MC Dropout[3],预测时保持 dropout 开启并多次前向传播取平均;贝叶斯神经网络,对权重建立分布并用变分推断或马尔可夫链蒙特卡洛(MCMC)求解,难以扩展;拉普拉斯近似,在训练得到的 MAP 解附近以高斯分布近似后验;SWAG[4],利用 SGD 后期的参数轨迹近似后验。这些方法的共同思路,是用有限个 θ\theta 的预测平均近似对后验的积分。需要估计预测不确定性的场景包括医疗与自动驾驶、主动学习与强化学习的探索、分布外检测、小数据与模型校准。

均方误差与交叉熵

MLE 是总框架:模型输出条件分布 pθ(y∣x)p_\theta(y \mid x)训练让观测数据出现的概率最大。所以损失函数取决于对 pθ(y∣x)p_\theta(y \mid x) 的假设,选损失函数就是选输出服从什么分布;MSE 和交叉熵是两种分布假设下的特例。

条件分布假设损失总体极小解
高斯 N(fθ(x),σ2)\mathcal{N}(f_\theta(x), \sigma^2)σ\sigma 固定MSE条件均值 E[y∣x]\mathbb{E}[y \mid x]
拉普拉斯 Lap(fθ(x),b)\text{Lap}(f_\theta(x), b)bb 固定L1条件中位数
类别分布,概率 πk(x)\pi_k(x)交叉熵条件类别概率
泊松,速率 λ(x)\lambda(x)泊松 NLL条件均值 E[y∣x]\mathbb{E}[y \mid x]
混合分布混合分布的 NLL多峰条件分布

其中 fθ(x)f_\theta(x) 是模型对目标的预测,在分布中充当均值(或中心)。

网络的输出是分布的参数。 从概率的角度看,网络对每个 xx 输出的不是单个预测值,而是一组参数,这组参数唯一确定一个关于 yy 的分布。分布的形状(分布族)由假设决定,它也限定了 yy 的取值类型:高斯分布的参数为均值与方差,适用于连续实数;拉普拉斯分布的参数为中心与尺度,适用于离群点较多的连续值;类别分布的参数为各类概率,适用于有限个互斥类别;泊松分布的参数为速率,适用于非负整数计数。例如分类中,图 x1x_1 的输出为(猫 0.7,狗 0.2,鸟 0.1),图 x2x_2 的输出为(猫 0.1,狗 0.8,鸟 0.1);回归中,x1x_1 对应 N(3.2,1)\mathcal{N}(3.2, 1)x2x_2 对应 N(7.5,1)\mathcal{N}(7.5, 1)钟形的中心随 xx 移动。

有了分布,就能算出真实的 yiy_i 在该分布下的概率(密度):分类中真实标签为猫、模型给猫的概率为 0.7,则 pθ(y1∣x1)=0.7p_\theta(y_1 \mid x_1) = 0.7回归中 y1=3.0y_1 = 3.0 在 N(3.2,1)\mathcal{N}(3.2, 1) 下的密度约为 0.39。训练的目标是让这些数值整体变大。

MSE。 设 y=fθ(x)+εy = f_\theta(x) + \varepsilonε∼N(0,σ2)\varepsilon \sim \mathcal{N}(0, \sigma^2)σ2\sigma^2 为与 xx 无关的常数。高斯密度的负对数为

−log⁡pθ(y∣x)=(y−fθ(x))22σ2+12log⁡(2πσ2)-\log p_\theta(y \mid x) = \frac{\big(y - f_\theta(x)\big)^2}{2\sigma^2} + \frac{1}{2}\log(2\pi\sigma^2)

第二项与 θ\theta 无关,第一项的系数 1/(2σ2)1/(2\sigma^2) 为正常数,不改变极小点,所以最小化 NLL 等价于最小化 1N∑i(yi−fθ(xi))2\frac{1}{N}\sum_i (y_i - f_\theta(x_i))^2MSE 隐含两个假设:噪声服从高斯分布,条件分布单峰;此外要求目标是连续实数,噪声方差与 xx 无关。它学到的是条件均值 E[y∣x]\mathbb{E}[y \mid x]

这里的“高斯模型”指对 yy 的分布假设,不是神经网络本身。高斯密度的指数部分是距离的平方,取负对数后只剩平方误差,因此平方误差与高斯噪声假设相对应。数据里离群点很多时,大误差会把 MSE 的解拉偏:把高斯换成拉普拉斯分布,同样的推导得到 L1 损失,对离群值更稳健;换成 Student-t 分布,得到更稳健的损失;网络同时预测方差,则得到异方差回归损失。

交叉熵。 设给定 xx 时目标取自 KK 个互斥类别之一。类别分布以概率 πk(x)\pi_k(x) 取第 kk 类,πk≥0\pi_k \ge 0∑kπk=1\sum_k \pi_k = 1即 pθ(y=k∣x)=πk(x)p_\theta(y = k \mid x) = \pi_k(x)πk\pi_k 通常由 softmax 保证;K=2K = 2 时为伯努利分布。标签被看作从这个分布抽出的样本,网络的任务是估计这组概率。

one-hot 向量是长度为 KK 的向量,仅真实类别对应的分量为 1,其余分量为 0,是把全部概率放在真实类别上的合法分布。以 one-hot 向量 yiy_i 表示第 ii 个样本的类别,记 πi,k=πk(xi)\pi_{i,k} = \pi_k(x_i)类别分布的概率质量函数为 ∏kπi,k yi,k\prod_k \pi_{i,k}^{\,y_{i,k}}代入 NLL 得

LCE(θ)=−1N∑i=1N∑k=1Kyi,klog⁡πi,k\mathcal{L}_{\text{CE}}(\theta) = -\frac{1}{N}\sum_{i=1}^{N}\sum_{k=1}^{K} y_{i,k}\log \pi_{i,k}

每个样本的 one-hot 向量只有真实类别 cic_i 一项为 1,上式即 −1N∑ilog⁡πi,ci-\frac{1}{N}\sum_i \log \pi_{i,c_i}正是 NLL。交叉熵的适用条件是:目标是有限个离散候选之一,且候选互斥。多标签分类中一个样本可以同时属于多个类别,这时应对每个标签各用一个伯努利分布,即各自的 BCE;连续目标不适用交叉熵。

K=2K = 2 时,yi,2=1−yi,1y_{i,2} = 1 - y_{i,1}πi,2=1−πi,1\pi_{i,2} = 1 - \pi_{i,1}退化为二元交叉熵(Binary Cross-Entropy,BCE):

LBCE(θ)=−1N∑i=1Nyi,1log⁡πi,1  −1N∑i=1N(1−yi,1)log⁡(1−πi,1)\begin{aligned} \mathcal{L}_{\text{BCE}}(\theta) &= -\frac{1}{N}\sum_{i=1}^{N} y_{i,1}\log \pi_{i,1} \\ &\ \ - \frac{1}{N}\sum_{i=1}^{N} (1 - y_{i,1})\log (1 - \pi_{i,1}) \end{aligned}

统一视角。 两个分布 pp(真实)与 qq(预测)的交叉熵定义为 H(p,q)=−∑kp(k)log⁡q(k)H(p, q) = -\sum_k p(k)\log q(k)记训练数据的经验分布为 p^\hat p则 LNLL=H(p^,pθ)\mathcal{L}_{\text{NLL}} = H(\hat p, p_\theta)即经验分布与模型分布之间的交叉熵。又有 H(p^,pθ)=H(p^)+DKL(p^∥pθ)H(\hat p, p_\theta) = H(\hat p) + D_{\text{KL}}(\hat p \parallel p_\theta)H(p^)H(\hat p) 与 θ\theta 无关,所以最小化 NLL、最小化交叉熵和最小化 KL 散度三者等价。从这个角度看,MSE 是经验分布与高斯模型之间的交叉熵,分类交叉熵是经验分布与类别分布之间的交叉熵,二者的区别只在于所假设的 pθ(y∣x)p_\theta(y \mid x)

经验分布是通过计数得到的分布:p^\hat p 给每个训练样本的概率为 1/N1/NNLL 里的 1N∑i\frac{1}{N}\sum_i 体现的就是这一点;出现 2 次的重复样本在 p^\hat p 中的概率为 2/N2/N在求和中也出现 2 次,两种写法一致。NLL 与交叉熵数值相同,出发点不同:前者来自统计推断,要求数据出现的可能性最大;后者来自信息论,要求模型分布接近数据分布。

注意:NLL 与交叉熵等价的前提是 pp 取经验分布。 若 pp 为软标签(标签平滑、知识蒸馏),交叉熵的公式不变,但不再是 NLL。

备注: 口语中的“交叉熵”通常指分类交叉熵,是一般定义 H(p,q)H(p, q) 的特例,即 pp 取标签分布(常为 one-hot)、qq 取模型的 softmax 输出。深度学习框架中的命名如下:Binary Cross-Entropy 对应二分类(sigmoid 与伯努利分布);Categorical Cross-Entropy 对应 one-hot 标签的多分类;Sparse Categorical Cross-Entropy 对应整数标签的多分类,数学上与前者相同。PyTorch 的 CrossEntropyLoss 以 logits 为输入,内部为 LogSoftmax 加 NLLLoss;BCEWithLogitsLoss 合并了 sigmoid 与 BCE。实践中直接用这类合并实现,数值更稳定。

分类使用交叉熵而非 MSE 的原因

分类也可以假设高斯噪声、用 MSE 训练,但 MSE 和 sigmoid 或 softmax 输出层搭配时,梯度在饱和区趋于 0,交叉熵没有这个问题。以二分类为例,zz 为 logit,π=sigmoid(z)\pi = \text{sigmoid}(z)y∈{0,1}y \in \{0, 1\}由链式法则,∂L/∂z=(∂L/∂π)⋅π(1−π)\partial L/\partial z = (\partial L/\partial \pi)\cdot\pi(1 - \pi)其中 π(1−π)\pi(1 - \pi) 是 sigmoid 的导数,在饱和区趋于 0,两种损失的差异全部来自 ∂L/∂π\partial L / \partial \piBCE 的单样本损失为 −ylog⁡π−(1−y)log⁡(1−π)-y\log\pi - (1 - y)\log(1 - \pi)∂L/∂π=(π−y)/(π(1−π))\partial L / \partial \pi = (\pi - y) / (\pi(1 - \pi))分母正好和 sigmoid 的导数抵消。MSE 取 L=12(π−y)2L = \frac{1}{2}(\pi - y)^2∂L/∂π=π−y\partial L / \partial \pi = \pi - y饱和项被保留。二者对 logit 的梯度为

∂LBCE∂z=π−y∂LMSE∂z=(π−y) π(1−π)\begin{gathered} \frac{\partial L_{\text{BCE}}}{\partial z} = \pi - y \\ \frac{\partial L_{\text{MSE}}}{\partial z} = (\pi - y)\,\pi(1 - \pi) \end{gathered}

注意:预测错得最严重时,MSE 的梯度反而接近 0。 例如 y=1y = 1π=0.01\pi = 0.01 时,BCE 的梯度为 −0.99-0.99MSE 的梯度约为 −0.0098-0.0098相差约 100 倍,MSE 几乎不更新参数。

根本原因在于损失和输出分布是否匹配。负对数似然和规范连接函数(canonical link)搭配时,损失对输出层预激活值的梯度恒为预测与目标之差[1][5]:

分布假设输出层损失梯度
高斯线性MSE(y^−y)/σ2(\hat y - y)/\sigma^2
伯努利sigmoidBCEπ−y\pi - y
类别分布softmax交叉熵π−y\boldsymbol\pi - \mathbf y

MSE 配 sigmoid 是不匹配的组合,所以多出饱和项 π(1−π)\pi(1 - \pi)

备注: 回归中的残差 y−y^y - \hat y 对应 MSE 对输出的梯度(相差一个符号);分类中与之地位相同的量是 logit 空间的 π−y\boldsymbol\pi - \mathbf y即预测概率减 one-hot 标签。例如真实类别为猫、输出为(0.7, 0.2, 0.1)时,该向量为(−0.3, 0.2, 0.1):真实类别被推高,其余类别被压低,各分量之和恒为 0,每个分量在 [−1,1][-1, 1] 内。两者的关键区别在于,回归假设残差服从高斯噪声,分类中则没有“预测加噪声”的加性结构,标签是从类别分布中抽样得到的,对应的假设是“标签服从由 π\boldsymbol\pi 给出的类别分布”,而不是“残差服从某分布”。类似的量还有负对数概率 −log⁡πy-\log\pi_y即单样本损失,度量真实标签的意外程度;以及广义线性模型[5]中正式定义的 Pearson 残差 (y−π)/π(1−π)(y - \pi)/\sqrt{\pi(1 - \pi)} 与偏差残差(deviance residual),二者在高斯线性回归中退化为普通残差。

轨迹生成中的适用范围

设场景(地图、周围车辆、导航指令等)为 xx轨迹为 τ=(s1,…,sT)\tau = (s_1, \dots, s_T)st∈R2s_t \in \mathbb{R}^2 为第 tt 步的位置。轨迹生成需要建模条件分布 p(τ∣x)p(\tau \mid x)

单峰情形:MSE 与 L1

给定导航指令后,若可行的行驶方式基本唯一,p(τ∣x)p(\tau \mid x) 可近似为单峰,此时 MSE 或 L1 回归一条轨迹是合理的起点。实践中常用以导航指令为条件的单条轨迹加 L1 损失。

用 MSE 回归整条轨迹时,把 τ\tau 展平成 2T2T 维向量(T=25T = 25 时为 50 维),对应的分布是

pθ(τ∣x)=N(τ; fθ(x), σ2I2T)τ=fθ(x)+ε,ε∼N(0,σ2I2T)\begin{gathered} p_\theta(\tau \mid x) = \mathcal{N}\big(\tau;\ f_\theta(x),\ \sigma^2 I_{2T}\big) \\ \tau = f_\theta(x) + \varepsilon,\quad \varepsilon \sim \mathcal{N}(0, \sigma^2 I_{2T}) \end{gathered}

网络给出均值,真实轨迹被看作从以预测为中心的分布里抽出的一个样本。这个分布隐含五条假设,它们和实际情况的差距以及放松的办法如下:

假设含义实际情形放松方式
单峰给定场景只有一种最可能的行驶方式路口的左转、直行、右转并存输出 KK 条轨迹与概率(高斯混合)
各向同性、同方差各方向与各时间步的不确定性相同纵向(速度)的不确定性大于横向,越远的时间步越不确定同时预测方差(异方差高斯)
坐标相互独立2T2T 个坐标之间无相关轨迹平滑,相邻点相关预测完整协方差(全协方差高斯)
噪声与场景无关σ\sigma 为常数不同场景的预测难度不同预测随场景变化的方差 σ(x)\sigma(x)
误差对称、尾部轻大偏差的概率按平方衰减数据中存在离群样本L1、Smooth L1、Huber(拉普拉斯等)

注意:上述分布是给定场景的条件分布,属于建模假设,不是从数据中观察到的事实。 每个场景只有一条真实轨迹,无法观察到该分布的散布。

备注: 对 MSE 回归的残差作直方图以检验高斯假设时要谨慎。整体残差呈钟形,不能证明每个场景都服从单峰高斯,因为方差不同的高斯混合也可能呈钟形或厚尾;多模态场景占比较小时,整体直方图也可能看不出多峰。

多峰情形:MSE 的失效

单条轨迹的预测记为 fθ(x)f_\theta(x)其取值 ff 的 MSE 总体极小解为条件均值:

arg⁡min⁡f E[∥τ−f∥22 ∣ x]=E[τ∣x]\arg\min_{f}\ \mathbb{E}\big[\lVert \tau - f \rVert_2^2 \,\big|\, x\big] = \mathbb{E}[\tau \mid x]

注意:当 p(τ∣x)p(\tau \mid x) 为多峰分布时,条件均值是各模态的加权平均,通常不落在任何模态上。 例如路口处左转与右转各占一半,MSE 学到的是二者的平均轨迹,该轨迹直行进入对向车道或路缘,在 p(τ∣x)p(\tau \mid x) 下的密度接近 0。L1 的总体极小解是逐坐标的中位数,同样不保证是一条可行轨迹。这一缺陷来自单峰的分布假设,与网络容量无关。

混合密度与 K 条候选轨迹

解决办法是把分布假设改成混合分布,由网络根据场景输出 KK 条轨迹及其置信度:

pθ(τ∣x)=∑k=1Kπk(x) N(τ; μk(x), σ2I)p_\theta(\tau \mid x) = \sum_{k=1}^{K} \pi_k(x)\,\mathcal{N}\big(\tau;\ \mu_k(x),\ \sigma^2 I\big)

其中 μk(x)\mu_k(x) 是第 kk 条轨迹,πk(x)\pi_k(x) 是其置信度,∑kπk=1\sum_k \pi_k = 1这是条件版的高斯混合模型(Gaussian Mixture Model,GMM),参数不再是常数,而由网络根据场景算出,称为混合密度网络(Mixture Density Network)[6]。训练目标是该分布的 NLL。

EM 与赢者通吃

混合模型含有隐变量 z∈{1,…,K}z \in \{1, \dots, K\}表示轨迹属于哪个模态。期望最大化(Expectation-Maximization,EM)[7]交替执行两步:E 步计算第 ii 个样本的隐变量后验,称为责任度(responsibility):

ri,k=p(z=k∣xi,τi)=πk(xi) Nk(τi)∑jπj(xi) Nj(τi)\begin{aligned} r_{i,k} &= p(z = k \mid x_i, \tau_i) \\ &= \frac{\pi_k(x_i)\,\mathcal{N}_k(\tau_i)}{\sum_{j} \pi_j(x_i)\,\mathcal{N}_j(\tau_i)} \end{aligned}

其中 Nk(τi)=N(τi;μk(xi),σ2I)\mathcal{N}_k(\tau_i) = \mathcal{N}\big(\tau_i; \mu_k(x_i), \sigma^2 I\big)M 步以 ri,kr_{i,k} 为权重更新参数。每次迭代后似然单调不降。网络直接用梯度下降优化混合 NLL 时,μk\mu_k 的梯度同样带有因子 ri,kr_{i,k}效果相当于软分配。

赢者通吃(Winner-Takes-All,WTA)是硬 EM:令 πk\pi_k 相等,把责任度改成 0/1,真值 τi\tau_i 只分配给最近的一条预测。损失为

LWTA(θ)=1N∑i=1Nmin⁡k ∥τi−μk(xi)∥22\mathcal{L}_{\text{WTA}}(\theta) = \frac{1}{N}\sum_{i=1}^{N} \min_{k}\ \lVert \tau_i - \mu_k(x_i) \rVert_2^2

只有最近的预测得到梯度。若让全部 KK 条预测都回归同一真值,每一条都收敛到条件均值,KK 条轨迹坍缩到一起;WTA 使不同预测各自负责不同的模态。副作用是从来没胜出的预测得不到梯度;松弛 WTA 用较小的权重更新其余预测[8]。置信度 πk\pi_k 通常用交叉熵训练,标签是胜出预测的编号。运动预测中普遍采用这种做法,如 MTR(MPI / CUHK · NeurIPS 2022)[9]。

交叉熵:先离散化

交叉熵要求目标取自有限候选集,轨迹的连续取值必须先离散化,常见方式有三种:对坐标分桶;把空间划分成网格,对网格做热力图分类;建立锚点轨迹词表,对整条轨迹分类。以词表 {a1,…,aK}\{a_1, \dots, a_K\} 为例,模型输出各候选的概率 πk(x)\pi_k(x)标签取与真值最近的候选,这与 WTA 一样是硬分配。

只做分类时,轨迹精度受词表分辨率限制。如果在锚点上再回归偏移量,即 μk=ak+δk(x)\mu_k = a_k + \delta_k(x)分类对应混合权重 πk\pi_k偏移回归对应各分量的均值,模型就回到了混合分布,如 MultiPath(Waymo · CoRL 2019)[10]。纯轨迹集分类的代表是 CoverNet(nuTonomy · arXiv 2019)[11]。

逐点分类与自回归

逐点分类与自回归是相互独立的两个选择:前者决定每个点如何表示,后者决定点与点之间如何依赖。

选择选项决定的内容
点的表示连续回归、离散分类每个点的条件分布取高斯还是类别分布
点间依赖并行、自回归pθ(τ∣x)p_\theta(\tau \mid x) 的因子分解方式

自回归与并行两种因子分解分别为

pθAR(τ∣x)=∏t=1Tpθ(st∣s<t,x)pθpar(τ∣x)=∏t=1Tpθ(st∣x)\begin{gathered} p_\theta^{\text{AR}}(\tau \mid x) = \prod_{t=1}^{T} p_\theta(s_t \mid s_{<t}, x) \\ p_\theta^{\text{par}}(\tau \mid x) = \prod_{t=1}^{T} p_\theta(s_t \mid x) \end{gathered}

判断是不是自回归,要看已生成的点是否作为后续步骤的输入;只传递隐状态、不回馈生成的点,各步仍然独立采样,不构成上式的因子分解。分布多峰时,并行分类从各点边缘分布采到的结果可能分属不同模态,例如前几个点属于左转、其余点属于右转,拼成的轨迹前后不一致。所以逐点分类常和自回归一起用,或者改成只对终点分类、再以终点为条件生成轨迹,或者直接对整条轨迹分类。

词表与先验

分类交叉熵必须先有有限的候选集。候选集可以是固定的词表,也可以随样本变化,或由训练学出。二者预设的先验不同:

损失预设的内容约束强度取舍
MSE分布的形状(单峰高斯)强归纳偏置强,所需数据少,表达能力的上限低
交叉熵候选所在的位置(词表)弱表达更灵活,需要更多数据,精度受词表限制

自车规划的方案

阶段方案对应的分布假设
起步导航指令条件化的单条轨迹,L1 损失单峰拉普拉斯分布
升级轨迹词表打分,如 VADv2[12]、Hydra-MDP[13]词表上的类别分布
升级多模态回归加选择(WTA 与置信度)混合分布
升级扩散模型,如 DiffusionDrive[14]去噪过程隐式给出的分布

注意:自车规划需要加入碰撞等辅助损失。 开环 L2 指标只衡量预测与人类驾驶员轨迹有多接近,在多峰分布下会惩罚其他可行轨迹;已有工作还表明,简单的 MLP 基线在这个指标上就能和基于感知的方法相当[15]。所以这个指标不能单独作为选择损失或方案的依据。

参考文献

  1. C. M. Bishop, Pattern Recognition and Machine Learning. New York, NY, USA: Springer, 2006.
  2. B. Lakshminarayanan, A. Pritzel, and C. Blundell, “Simple and scalable predictive uncertainty estimation using deep ensembles,” in Proc. NeurIPS, 2017, arXiv: 1612.01474.
  3. Y. Gal and Z. Ghahramani, “Dropout as a Bayesian approximation: Representing model uncertainty in deep learning,” in Proc. ICML, 2016, arXiv: 1506.02142.
  4. W. J. Maddox, P. Izmailov, T. Garipov, D. P. Vetrov, and A. G. Wilson, “A simple baseline for Bayesian uncertainty in deep learning,” in Proc. NeurIPS, 2019, arXiv: 1902.02476.
  5. P. McCullagh and J. A. Nelder, Generalized Linear Models, 2nd ed. London, U.K.: Chapman & Hall, 1989.
  6. C. M. Bishop, “Mixture density networks,” Aston Univ., Birmingham, U.K., Tech. Rep. NCRG/94/004, 1994.
  7. A. P. Dempster, N. M. Laird, and D. B. Rubin, “Maximum likelihood from incomplete data via the EM algorithm,” J. Roy. Statist. Soc. B, vol. 39, no. 1, pp. 1–38, 1977.
  8. C. Rupprecht et al., “Learning in an uncertain world: Representing ambiguity through multiple hypotheses,” in Proc. ICCV, 2017, arXiv: 1612.00197.
  9. S. Shi, L. Jiang, D. Dai, and B. Schiele, “Motion transformer with global intention localization and local movement refinement,” in Proc. NeurIPS, 2022, arXiv: 2209.13508.
  10. Y. Chai, B. Sapp, M. Bansal, and D. Anguelov, “MultiPath: Multiple probabilistic anchor trajectory hypotheses for behavior prediction,” in Proc. CoRL, 2019, arXiv: 1910.05449.
  11. T. Phan-Minh, E. C. Grigore, F. A. Boulton, O. Beijbom, and E. M. Wolff, “CoverNet: Multimodal behavior prediction using trajectory sets,” 2019, arXiv: 1911.10298.
  12. B. Jiang et al., “VADv2: End-to-end vectorized autonomous driving via probabilistic planning,” in Proc. ICLR, 2026, arXiv: 2402.13243.
  13. Z. Li et al., “Hydra-MDP: End-to-end multimodal planning with multi-target hydra-distillation,” 2024, arXiv: 2406.06978.
  14. B. Liao et al., “DiffusionDrive: Truncated diffusion model for end-to-end autonomous driving,” in Proc. CVPR, 2025, arXiv: 2411.15139.
  15. J.-T. Zhai et al., “Rethinking the open-loop evaluation of end-to-end autonomous driving in nuScenes,” 2023, arXiv: 2305.10430.