ApX 标志ApX 标志

趋近智

大模型显存计算器硬件课程定价
ApX 标志ApX 标志

趋近智

大模型显存计算器硬件课程定价

所有课程

生成式AI扩散模型入门
章节 1: 生成模型简介
生成模型概述
扩散模型的缘由
核心思路:噪声与去噪
概率框架概述
第 1 章测验
章节 2: 前向扩散过程
定义马尔可夫链
高斯噪声调度
每一步的数学表示
从中间步骤采样
前向过程的性质
实践:模拟正向扩散
第 2 章测验
章节 3: 逆向扩散过程
目标:逆转马尔可夫链
逼近逆向转移
使用神经网络参数化逆向过程
预测噪声分量
去噪步骤的数学表达
第 3 章测验
章节 4: 模型架构与训练
用于噪声预测的U-Net架构
整合时间步信息
定义训练目标
简化训练损失的推导
训练算法
动手实践:搭建U-Net
第 4 章测验
章节 5: 采样与生成过程
从噪声生成数据
DDPM采样算法
理解采样方差
加速采样方法介绍:DDIM
DDIM采样算法
DDPM与DDIM的权衡
动手实践:实现采样循环
第 5 章测验
章节 6: 扩散模型的条件生成
条件生成的动因
分类器引导
无分类器引导 (CFG)
实现分类器无关引导
文本条件要点
用于条件生成的架构修改
动手实践:应用引导
第 6 章测验

简化训练损失的推导

神经网络 (neural network)(通常是U-Net)在扩散模型中的核心任务是学习逆向扩散过程。这涉及通过逐步去除噪声来估计原始数据分布。虽然扩散模型的完整概率推导涉及通过证据下界(ELBO)最大化数据似然,但一种常见且有效的训练目标大大简化了这一点。

从ELBO到简单的MSE

扩散模型的完整ELBO包含与逆向马尔可夫链中转换相关的多个项。直接优化它可能很复杂。然而,研究人员(特别是Ho等人在原始DDPM论文中)发现,训练目标可以大大简化,而不会牺牲性能。

与其直接建模复杂的逆向转换概率pθ(xt−1∣xt)p_\theta(x_{t-1}|x_t)pθ​(xt−1​∣xt​),我们重新参数 (parameter)化网络ϵθ\epsilon_\thetaϵθ​,以预测在时间步ttt从原始图像x0x_0x0​获得xtx_txt​时所添加的噪声ϵ\epsilonϵ。回顾允许直接从x0x_0x0​采样xtx_txt​的前向过程方程:

xt=αˉtx0+1−αˉtϵx_t = \sqrt{\bar{\alpha}_t} x_0 + \sqrt{1 - \bar{\alpha}_t} \epsilonxt​=αˉt​​x0​+1−αˉt​​ϵ

这里,ϵ\epsilonϵ是一个标准高斯噪声样本(ϵ∼N(0,I))(\epsilon \sim \mathcal{N}(0, I))(ϵ∼N(0,I)),αˉt\bar{\alpha}_tαˉt​则根据噪声时间表得出。

其要点在于,如果我们的网络能够在给定带噪声图像xtx_txt​和时间步ttt的情况下准确预测此噪声ϵ\epsilonϵ,它实际上就学会了如何逆转扩散步骤。

简化的损失函数 (loss function)

这带来一个简单得多的训练目标:我们最小化用于创建xtx_txt​的实际噪声ϵ\epsilonϵ与我们的网络ϵθ(xt,t)\epsilon_\theta(x_t, t)ϵθ​(xt​,t)预测的噪声之间的均方误差(MSE)。

损失函数LsimpleL_{simple}Lsimple​被表述为对随机时间步ttt、初始数据样本x0x_0x0​和噪声样本ϵ\epsilonϵ的期望:

Lsimple=Et∼[1,T],x0∼q(x0),ϵ∼N(0,I)[∣∣ϵ−ϵθ(αˉtx0+1−αˉtϵ,t)∣∣2]L_{simple} = \mathbb{E}_{t \sim [1, T], x_0 \sim q(x_0), \epsilon \sim \mathcal{N}(0, I)} \left[ || \epsilon - \epsilon_\theta(\sqrt{\bar{\alpha}_t} x_0 + \sqrt{1 - \bar{\alpha}_t} \epsilon, t) ||^2 \right]Lsimple​=Et∼[1,T],x0​∼q(x0​),ϵ∼N(0,I)​[∣∣ϵ−ϵθ​(αˉt​​x0​+1−αˉt​​ϵ,t)∣∣2]

我们来分解一下:

  1. 采样 ttt: 从{1,...,T}\{1, ..., T\}{1,...,T}中均匀选择一个随机时间步ttt。
  2. 采样 x0x_0x0​: 从训练数据集中获取一个数据样本(例如,一张图像)。
  3. 采样 ϵ\epsilonϵ: 从标准正态分布中抽取一个噪声样本。
  4. 计算 xtx_txt​: 使用公式xt=αˉtx0+1−αˉtϵx_t = \sqrt{\bar{\alpha}_t} x_0 + \sqrt{1 - \bar{\alpha}_t} \epsilonxt​=αˉt​​x0​+1−αˉt​​ϵ计算带噪声的版本xtx_txt​。
  5. 预测噪声: 将xtx_txt​和时间步ttt输入网络ϵθ\epsilon_\thetaϵθ​,以获得预测噪声ϵθ(xt,t)\epsilon_\theta(x_t, t)ϵθ​(xt​,t)。
  6. 计算MSE: 计算实际噪声ϵ\epsilonϵ与预测噪声ϵθ(xt,t)\epsilon_\theta(x_t, t)ϵθ​(xt​,t)之间的平方差。
  7. 平均: 在实际中,这个期望是通过在训练期间对小批量数据上的MSE求平均来近似的。

为何如此有效

最小化此MSE损失会促使网络ϵθ\epsilon_\thetaϵθ​成为对于任何给定的噪声水平ttt都有效的噪声预测器。直观地看,如果模型能够精确识别xtx_txt​中的噪声成分,它就隐式理解了逆转噪声过程所需的底层数据x0x_0x0​的结构。

虽然我们跳过了从ELBO详细的数学推导,但可以证明,这个简化的MSE损失对应于变分下界中项的特定加权。这为此较简单的目标为何能有效训练高质量扩散模型提供了理论依据。

实际优势显著:训练归结为一个标准的回归问题,其中网络学习将带噪声的输入xtx_txt​和时间步ttt映射到所添加的噪声ϵ\epsilonϵ。这比直接处理完整ELBO的复杂分布要简单得多,更易于实现和优化。这个简化损失是我们将在下一节中描述的训练算法的依据。

  • Denoising Diffusion Probabilistic Models, Jonathan Ho, Ajay Jain, Pieter Abbeel, 2020 Advances in Neural Information Processing Systems DOI: 10.48550/arXiv.2006.11239 - 这篇奠基性论文介绍了去噪扩散概率模型(DDPM),并正式确立了简化的MSE训练目标。

© 2026 ApX Machine Learning