损失函数的概率解释:从贝叶斯推断到轨迹生成中的 MSE 与交叉熵
监督学习的损失函数可以由概率模型导出:给定输入 模型指定目标 的条件分布 损失是该分布下观测数据的负对数似然(Negative Log-Likelihood,NLL)。下面先说明先验、似然与后验的关系,以及最大似然估计(Maximum Likelihood Estimation,MLE)、最大后验估计(Maximum A Posteriori,MAP)与 NLL 的对应;再推导均方误差(Mean Squared Error,MSE)和交叉熵(Cross-Entropy,CE)各自对应的分布假设,并从梯度的角度解释分类为什么用交叉熵而不用 MSE;最后以轨迹生成为例,讨论两类损失的适用范围和多峰分布下的处理方法。
先验、似然与后验
设训练集 样本独立同分布;模型的参数为 贝叶斯方法把 看作随机变量。这里的随机性表示我们对参数的不确定性(信念),并不是说参数在现实中随机变化; 完全可以是一个固定但未知的值。频率学派把 看作固定常数,随机的是数据 贝叶斯方法则把已观测的 看作固定,用分布 和 表达 的不确定性。贝叶斯方法涉及四个量:
| 名称 | 记号 | 含义 |
|---|---|---|
| 先验(prior) | 观测数据之前,对参数取值的信念 | |
| 似然(likelihood) | 固定 时 的函数,表示参数为 时观测到 的概率;对 积分不等于 1,不是 的概率分布 | |
| 证据(evidence) | 与 无关的归一化常数 | |
| 后验(posterior) | 观测数据之后,对参数取值的信念 |
全文的符号约定如下。
| 符号 | 含义 |
|---|---|
| 分别为样本下标、类别或模态下标、轨迹的时间步 | |
| 类别数与模态数 | |
| 贝叶斯框架中的先验、似然与后验 | |
| 参数的点估计 | |
| 参数为 时模型给出的条件分布,即 | |
| 数据的真实分布 | |
| 训练数据的经验分布 | |
| 模型的输出,均依赖 下标从略 | |
| 二分类输出层的预激活值(logit)与正例概率 | |
| 为目标的一般记号,目标为轨迹时记为 |
三者由贝叶斯公式联系:
后验是用似然修正先验得到的:数据越多,似然的作用越大,先验的作用越小。
似然 有两种读法。固定 时,它是 的概率分布,对 求和等于 1;固定 时,它是 的函数,对 积分不保证等于 1。以抛硬币为例,设 为正面朝上的概率。抛 1 次得到正面时,对 求和为 对 积分为 抛 10 次得到含 7 次正面、3 次反面的指定序列时,积分值随数据变化,不是合法的分布。
因此,似然的相对大小有意义,绝对大小不能解读为 取该值的概率;贝叶斯公式需要证据 做归一化,原因也在于此。把似然当作 的概率,是混淆了 与
判别模型只建模条件分布 并以输入 为条件。在独立同分布假设下,似然为 输入的分布 不含 不进入似然。因此损失函数的形式只取决于对 的假设,与 和 无关。
最大似然与最大后验
独立样本的似然是连乘,取对数后化为求和。对似然取负对数并按样本数平均,得到负对数似然:
其中 是模型在输入 时分配给真实目标 的概率。从似然到 NLL 依次做了三步:取对数,把连乘变成求和;取负号,把最大化变成最小化;除以 取平均。取对数有三个原因:连乘在数值上易下溢,如 连乘不便求导;对数单调,不改变最优解的位置。
例如,猫狗分类中第 3 张图的真实标签为猫,模型输出猫 0.8、狗 0.2,则 三个样本的该概率分别为 0.8、0.9、0.5 时,似然为 0.36,NLL 为 任一样本的预测很差,都会拉低整体似然。
两种点估计分别为
MLE 给出使数据出现概率最大的 只使用似然,并不是后验概率最大的 上述抛硬币的例子中,似然 在 处分别约为 0.00098、0.0022、0.00048,极大值在 处。MAP 取后验的众数,在 NLL 之外多出一项 这一项就是正则项。先验为均匀分布时 MAP 退化为 MLE; 时似然项占主导,二者趋于一致。先验与正则项的对应如下:
| 先验 | 正则项 | |
|---|---|---|
| 均匀 | 常数 | 无 |
| 高斯 | L2 | |
| 拉普拉斯,尺度 | L1 |
注意:先验针对参数 噪声分布针对目标 二者相互独立。 高斯先验决定是否用 L2 正则,高斯噪声决定是否用 MSE,两者可以任意组合。
MLE 和 MAP 都是点估计:把 压缩成单个值 预测时只用这一个值,即 训练一个网络、得到一组 就是点估计。点估计丢掉了 的不确定性:数据较少时,多组 都能解释数据,点估计只取其中一组。完整的贝叶斯推断[1]不取点估计,而是用后验作权重,对各个 的预测取平均,得到预测分布:
读作给定 与 时 的条件分布。式中没有 因为 已经被积分掉了;参数固定为 时的预测则记为 例如三组参数的后验权重为 0.5、0.3、0.2,各自预测“猫”的概率为 0.9、0.6、0.2。取权重最大的一组参数,预测概率为 0.9;完整的贝叶斯推断给出 预测更保守。
深度网络的后验无法解析计算,需要近似。
备注: 完整的贝叶斯推断在深度学习中不是主流的训练方式。大模型几乎都使用点估计(MLE,或带 L2 正则的 MAP),原因是后验的计算成本高、参数规模大,而大数据下点估计已足够好。常用的近似方法有:深度集成(Deep Ensembles)[2],训练多个初始化不同的网络并对预测取平均;MC Dropout[3],预测时保持 dropout 开启并多次前向传播取平均;贝叶斯神经网络,对权重建立分布并用变分推断或马尔可夫链蒙特卡洛(MCMC)求解,难以扩展;拉普拉斯近似,在训练得到的 MAP 解附近以高斯分布近似后验;SWAG[4],利用 SGD 后期的参数轨迹近似后验。这些方法的共同思路,是用有限个 的预测平均近似对后验的积分。需要估计预测不确定性的场景包括医疗与自动驾驶、主动学习与强化学习的探索、分布外检测、小数据与模型校准。
均方误差与交叉熵
MLE 是总框架:模型输出条件分布 训练让观测数据出现的概率最大。所以损失函数取决于对 的假设,选损失函数就是选输出服从什么分布;MSE 和交叉熵是两种分布假设下的特例。
| 条件分布假设 | 损失 | 总体极小解 |
|---|---|---|
| 高斯 固定 | MSE | 条件均值 |
| 拉普拉斯 固定 | L1 | 条件中位数 |
| 类别分布,概率 | 交叉熵 | 条件类别概率 |
| 泊松,速率 | 泊松 NLL | 条件均值 |
| 混合分布 | 混合分布的 NLL | 多峰条件分布 |
其中 是模型对目标的预测,在分布中充当均值(或中心)。
网络的输出是分布的参数。 从概率的角度看,网络对每个 输出的不是单个预测值,而是一组参数,这组参数唯一确定一个关于 的分布。分布的形状(分布族)由假设决定,它也限定了 的取值类型:高斯分布的参数为均值与方差,适用于连续实数;拉普拉斯分布的参数为中心与尺度,适用于离群点较多的连续值;类别分布的参数为各类概率,适用于有限个互斥类别;泊松分布的参数为速率,适用于非负整数计数。例如分类中,图 的输出为(猫 0.7,狗 0.2,鸟 0.1),图 的输出为(猫 0.1,狗 0.8,鸟 0.1);回归中, 对应 对应 钟形的中心随 移动。
有了分布,就能算出真实的 在该分布下的概率(密度):分类中真实标签为猫、模型给猫的概率为 0.7,则 回归中 在 下的密度约为 0.39。训练的目标是让这些数值整体变大。
MSE。 设 为与 无关的常数。高斯密度的负对数为
第二项与 无关,第一项的系数 为正常数,不改变极小点,所以最小化 NLL 等价于最小化 MSE 隐含两个假设:噪声服从高斯分布,条件分布单峰;此外要求目标是连续实数,噪声方差与 无关。它学到的是条件均值
这里的“高斯模型”指对 的分布假设,不是神经网络本身。高斯密度的指数部分是距离的平方,取负对数后只剩平方误差,因此平方误差与高斯噪声假设相对应。数据里离群点很多时,大误差会把 MSE 的解拉偏:把高斯换成拉普拉斯分布,同样的推导得到 L1 损失,对离群值更稳健;换成 Student-t 分布,得到更稳健的损失;网络同时预测方差,则得到异方差回归损失。
交叉熵。 设给定 时目标取自 个互斥类别之一。类别分布以概率 取第 类,即 通常由 softmax 保证; 时为伯努利分布。标签被看作从这个分布抽出的样本,网络的任务是估计这组概率。
one-hot 向量是长度为 的向量,仅真实类别对应的分量为 1,其余分量为 0,是把全部概率放在真实类别上的合法分布。以 one-hot 向量 表示第 个样本的类别,记 类别分布的概率质量函数为 代入 NLL 得
每个样本的 one-hot 向量只有真实类别 一项为 1,上式即 正是 NLL。交叉熵的适用条件是:目标是有限个离散候选之一,且候选互斥。多标签分类中一个样本可以同时属于多个类别,这时应对每个标签各用一个伯努利分布,即各自的 BCE;连续目标不适用交叉熵。
时,退化为二元交叉熵(Binary Cross-Entropy,BCE):
统一视角。 两个分布 (真实)与 (预测)的交叉熵定义为 记训练数据的经验分布为 则 即经验分布与模型分布之间的交叉熵。又有 与 无关,所以最小化 NLL、最小化交叉熵和最小化 KL 散度三者等价。从这个角度看,MSE 是经验分布与高斯模型之间的交叉熵,分类交叉熵是经验分布与类别分布之间的交叉熵,二者的区别只在于所假设的
经验分布是通过计数得到的分布: 给每个训练样本的概率为 NLL 里的 体现的就是这一点;出现 2 次的重复样本在 中的概率为 在求和中也出现 2 次,两种写法一致。NLL 与交叉熵数值相同,出发点不同:前者来自统计推断,要求数据出现的可能性最大;后者来自信息论,要求模型分布接近数据分布。
注意:NLL 与交叉熵等价的前提是 取经验分布。 若 为软标签(标签平滑、知识蒸馏),交叉熵的公式不变,但不再是 NLL。
备注: 口语中的“交叉熵”通常指分类交叉熵,是一般定义 的特例,即 取标签分布(常为 one-hot)、 取模型的 softmax 输出。深度学习框架中的命名如下:Binary Cross-Entropy 对应二分类(sigmoid 与伯努利分布);Categorical Cross-Entropy 对应 one-hot 标签的多分类;Sparse Categorical Cross-Entropy 对应整数标签的多分类,数学上与前者相同。PyTorch 的
CrossEntropyLoss以 logits 为输入,内部为 LogSoftmax 加 NLLLoss;BCEWithLogitsLoss合并了 sigmoid 与 BCE。实践中直接用这类合并实现,数值更稳定。
分类使用交叉熵而非 MSE 的原因
分类也可以假设高斯噪声、用 MSE 训练,但 MSE 和 sigmoid 或 softmax 输出层搭配时,梯度在饱和区趋于 0,交叉熵没有这个问题。以二分类为例, 为 logit,由链式法则,其中 是 sigmoid 的导数,在饱和区趋于 0,两种损失的差异全部来自 BCE 的单样本损失为 分母正好和 sigmoid 的导数抵消。MSE 取 饱和项被保留。二者对 logit 的梯度为
注意:预测错得最严重时,MSE 的梯度反而接近 0。 例如 时,BCE 的梯度为 MSE 的梯度约为 相差约 100 倍,MSE 几乎不更新参数。
根本原因在于损失和输出分布是否匹配。负对数似然和规范连接函数(canonical link)搭配时,损失对输出层预激活值的梯度恒为预测与目标之差[1][5]:
| 分布假设 | 输出层 | 损失 | 梯度 |
|---|---|---|---|
| 高斯 | 线性 | MSE | |
| 伯努利 | sigmoid | BCE | |
| 类别分布 | softmax | 交叉熵 |
MSE 配 sigmoid 是不匹配的组合,所以多出饱和项
备注: 回归中的残差 对应 MSE 对输出的梯度(相差一个符号);分类中与之地位相同的量是 logit 空间的 即预测概率减 one-hot 标签。例如真实类别为猫、输出为(0.7, 0.2, 0.1)时,该向量为(−0.3, 0.2, 0.1):真实类别被推高,其余类别被压低,各分量之和恒为 0,每个分量在 内。两者的关键区别在于,回归假设残差服从高斯噪声,分类中则没有“预测加噪声”的加性结构,标签是从类别分布中抽样得到的,对应的假设是“标签服从由 给出的类别分布”,而不是“残差服从某分布”。类似的量还有负对数概率 即单样本损失,度量真实标签的意外程度;以及广义线性模型[5]中正式定义的 Pearson 残差 与偏差残差(deviance residual),二者在高斯线性回归中退化为普通残差。
轨迹生成中的适用范围
设场景(地图、周围车辆、导航指令等)为 轨迹为 为第 步的位置。轨迹生成需要建模条件分布
单峰情形:MSE 与 L1
给定导航指令后,若可行的行驶方式基本唯一, 可近似为单峰,此时 MSE 或 L1 回归一条轨迹是合理的起点。实践中常用以导航指令为条件的单条轨迹加 L1 损失。
用 MSE 回归整条轨迹时,把 展平成 维向量( 时为 50 维),对应的分布是
网络给出均值,真实轨迹被看作从以预测为中心的分布里抽出的一个样本。这个分布隐含五条假设,它们和实际情况的差距以及放松的办法如下:
| 假设 | 含义 | 实际情形 | 放松方式 |
|---|---|---|---|
| 单峰 | 给定场景只有一种最可能的行驶方式 | 路口的左转、直行、右转并存 | 输出 条轨迹与概率(高斯混合) |
| 各向同性、同方差 | 各方向与各时间步的不确定性相同 | 纵向(速度)的不确定性大于横向,越远的时间步越不确定 | 同时预测方差(异方差高斯) |
| 坐标相互独立 | 个坐标之间无相关 | 轨迹平滑,相邻点相关 | 预测完整协方差(全协方差高斯) |
| 噪声与场景无关 | 为常数 | 不同场景的预测难度不同 | 预测随场景变化的方差 |
| 误差对称、尾部轻 | 大偏差的概率按平方衰减 | 数据中存在离群样本 | L1、Smooth L1、Huber(拉普拉斯等) |
注意:上述分布是给定场景的条件分布,属于建模假设,不是从数据中观察到的事实。 每个场景只有一条真实轨迹,无法观察到该分布的散布。
备注: 对 MSE 回归的残差作直方图以检验高斯假设时要谨慎。整体残差呈钟形,不能证明每个场景都服从单峰高斯,因为方差不同的高斯混合也可能呈钟形或厚尾;多模态场景占比较小时,整体直方图也可能看不出多峰。
多峰情形:MSE 的失效
单条轨迹的预测记为 其取值 的 MSE 总体极小解为条件均值:
注意:当 为多峰分布时,条件均值是各模态的加权平均,通常不落在任何模态上。 例如路口处左转与右转各占一半,MSE 学到的是二者的平均轨迹,该轨迹直行进入对向车道或路缘,在 下的密度接近 0。L1 的总体极小解是逐坐标的中位数,同样不保证是一条可行轨迹。这一缺陷来自单峰的分布假设,与网络容量无关。
混合密度与 K 条候选轨迹
解决办法是把分布假设改成混合分布,由网络根据场景输出 条轨迹及其置信度:
其中 是第 条轨迹, 是其置信度,这是条件版的高斯混合模型(Gaussian Mixture Model,GMM),参数不再是常数,而由网络根据场景算出,称为混合密度网络(Mixture Density Network)[6]。训练目标是该分布的 NLL。
EM 与赢者通吃
混合模型含有隐变量 表示轨迹属于哪个模态。期望最大化(Expectation-Maximization,EM)[7]交替执行两步:E 步计算第 个样本的隐变量后验,称为责任度(responsibility):
其中 M 步以 为权重更新参数。每次迭代后似然单调不降。网络直接用梯度下降优化混合 NLL 时, 的梯度同样带有因子 效果相当于软分配。
赢者通吃(Winner-Takes-All,WTA)是硬 EM:令 相等,把责任度改成 0/1,真值 只分配给最近的一条预测。损失为
只有最近的预测得到梯度。若让全部 条预测都回归同一真值,每一条都收敛到条件均值, 条轨迹坍缩到一起;WTA 使不同预测各自负责不同的模态。副作用是从来没胜出的预测得不到梯度;松弛 WTA 用较小的权重更新其余预测[8]。置信度 通常用交叉熵训练,标签是胜出预测的编号。运动预测中普遍采用这种做法,如 MTR(MPI / CUHK · NeurIPS 2022)[9]。
交叉熵:先离散化
交叉熵要求目标取自有限候选集,轨迹的连续取值必须先离散化,常见方式有三种:对坐标分桶;把空间划分成网格,对网格做热力图分类;建立锚点轨迹词表,对整条轨迹分类。以词表 为例,模型输出各候选的概率 标签取与真值最近的候选,这与 WTA 一样是硬分配。
只做分类时,轨迹精度受词表分辨率限制。如果在锚点上再回归偏移量,即 分类对应混合权重 偏移回归对应各分量的均值,模型就回到了混合分布,如 MultiPath(Waymo · CoRL 2019)[10]。纯轨迹集分类的代表是 CoverNet(nuTonomy · arXiv 2019)[11]。
逐点分类与自回归
逐点分类与自回归是相互独立的两个选择:前者决定每个点如何表示,后者决定点与点之间如何依赖。
| 选择 | 选项 | 决定的内容 |
|---|---|---|
| 点的表示 | 连续回归、离散分类 | 每个点的条件分布取高斯还是类别分布 |
| 点间依赖 | 并行、自回归 | 的因子分解方式 |
自回归与并行两种因子分解分别为
判断是不是自回归,要看已生成的点是否作为后续步骤的输入;只传递隐状态、不回馈生成的点,各步仍然独立采样,不构成上式的因子分解。分布多峰时,并行分类从各点边缘分布采到的结果可能分属不同模态,例如前几个点属于左转、其余点属于右转,拼成的轨迹前后不一致。所以逐点分类常和自回归一起用,或者改成只对终点分类、再以终点为条件生成轨迹,或者直接对整条轨迹分类。
词表与先验
分类交叉熵必须先有有限的候选集。候选集可以是固定的词表,也可以随样本变化,或由训练学出。二者预设的先验不同:
| 损失 | 预设的内容 | 约束强度 | 取舍 |
|---|---|---|---|
| MSE | 分布的形状(单峰高斯) | 强 | 归纳偏置强,所需数据少,表达能力的上限低 |
| 交叉熵 | 候选所在的位置(词表) | 弱 | 表达更灵活,需要更多数据,精度受词表限制 |
自车规划的方案
| 阶段 | 方案 | 对应的分布假设 |
|---|---|---|
| 起步 | 导航指令条件化的单条轨迹,L1 损失 | 单峰拉普拉斯分布 |
| 升级 | 轨迹词表打分,如 VADv2[12]、Hydra-MDP[13] | 词表上的类别分布 |
| 升级 | 多模态回归加选择(WTA 与置信度) | 混合分布 |
| 升级 | 扩散模型,如 DiffusionDrive[14] | 去噪过程隐式给出的分布 |
注意:自车规划需要加入碰撞等辅助损失。 开环 L2 指标只衡量预测与人类驾驶员轨迹有多接近,在多峰分布下会惩罚其他可行轨迹;已有工作还表明,简单的 MLP 基线在这个指标上就能和基于感知的方法相当[15]。所以这个指标不能单独作为选择损失或方案的依据。
参考文献
- C. M. Bishop, Pattern Recognition and Machine Learning. New York, NY, USA: Springer, 2006.
- B. Lakshminarayanan, A. Pritzel, and C. Blundell, “Simple and scalable predictive uncertainty estimation using deep ensembles,” in Proc. NeurIPS, 2017, arXiv: 1612.01474.
- Y. Gal and Z. Ghahramani, “Dropout as a Bayesian approximation: Representing model uncertainty in deep learning,” in Proc. ICML, 2016, arXiv: 1506.02142.
- W. J. Maddox, P. Izmailov, T. Garipov, D. P. Vetrov, and A. G. Wilson, “A simple baseline for Bayesian uncertainty in deep learning,” in Proc. NeurIPS, 2019, arXiv: 1902.02476.
- P. McCullagh and J. A. Nelder, Generalized Linear Models, 2nd ed. London, U.K.: Chapman & Hall, 1989.
- C. M. Bishop, “Mixture density networks,” Aston Univ., Birmingham, U.K., Tech. Rep. NCRG/94/004, 1994.
- A. P. Dempster, N. M. Laird, and D. B. Rubin, “Maximum likelihood from incomplete data via the EM algorithm,” J. Roy. Statist. Soc. B, vol. 39, no. 1, pp. 1–38, 1977.
- C. Rupprecht et al., “Learning in an uncertain world: Representing ambiguity through multiple hypotheses,” in Proc. ICCV, 2017, arXiv: 1612.00197.
- S. Shi, L. Jiang, D. Dai, and B. Schiele, “Motion transformer with global intention localization and local movement refinement,” in Proc. NeurIPS, 2022, arXiv: 2209.13508.
- Y. Chai, B. Sapp, M. Bansal, and D. Anguelov, “MultiPath: Multiple probabilistic anchor trajectory hypotheses for behavior prediction,” in Proc. CoRL, 2019, arXiv: 1910.05449.
- T. Phan-Minh, E. C. Grigore, F. A. Boulton, O. Beijbom, and E. M. Wolff, “CoverNet: Multimodal behavior prediction using trajectory sets,” 2019, arXiv: 1911.10298.
- B. Jiang et al., “VADv2: End-to-end vectorized autonomous driving via probabilistic planning,” in Proc. ICLR, 2026, arXiv: 2402.13243.
- Z. Li et al., “Hydra-MDP: End-to-end multimodal planning with multi-target hydra-distillation,” 2024, arXiv: 2406.06978.
- B. Liao et al., “DiffusionDrive: Truncated diffusion model for end-to-end autonomous driving,” in Proc. CVPR, 2025, arXiv: 2411.15139.
- J.-T. Zhai et al., “Rethinking the open-loop evaluation of end-to-end autonomous driving in nuScenes,” 2023, arXiv: 2305.10430.