前向扩散过程是一个逐步马尔可夫链，在每个时间步t t t β t \beta_t β t q ( x t ∣ x t − 1 ) q(x_t | x_{t-1}) q ( x t ∣ x t − 1 ) x 0 x_0 x 0 x t x_t x t T T T
这种特定加噪过程的一个重要特性是，我们可以推导出一个封闭形式的方程，从而在任何时间步t t t x 0 x_0 x 0 x t x_t x t x 1 , x 2 , . . . , x t − 1 x_1, x_2, ..., x_{t-1} x 1 , x 2 , ... , x t − 1
我们来推导这个关系。回顾一下单步转移：
x t = 1 − β t x t − 1 + β t ϵ t − 1 当 ϵ t − 1 ∼ N ( 0 , I ) x_t = \sqrt{1 - \beta_t} x_{t-1} + \sqrt{\beta_t} \epsilon_{t-1} \quad \text{当} \quad \epsilon_{t-1} \sim \mathcal{N}(0, I) x t = 1 − β t x t − 1 + β t ϵ t − 1 当 ϵ t − 1 ∼ N ( 0 , I ) 为方便起见，我们定义α t = 1 − β t \alpha_t = 1 - \beta_t α t = 1 − β t
x t = α t x t − 1 + 1 − α t ϵ t − 1 x_t = \sqrt{\alpha_t} x_{t-1} + \sqrt{1 - \alpha_t} \epsilon_{t-1} x t = α t x t − 1 + 1 − α t ϵ t − 1 现在，我们可以递归地展开此式。我们来看x t − 1 x_{t-1} x t − 1 x t − 2 x_{t-2} x t − 2
x t − 1 = α t − 1 x t − 2 + 1 − α t − 1 ϵ t − 2 x_{t-1} = \sqrt{\alpha_{t-1}} x_{t-2} + \sqrt{1 - \alpha_{t-1}} \epsilon_{t-2} x t − 1 = α t − 1 x t − 2 + 1 − α t − 1 ϵ t − 2 将此代入x t x_t x t
x t = α t ( α t − 1 x t − 2 + 1 − α t − 1 ϵ t − 2 ) + 1 − α t ϵ t − 1 = α t α t − 1 x t − 2 + α t ( 1 − α t − 1 ) ϵ t − 2 + 1 − α t ϵ t − 1 \begin{align*}
x_t &= \sqrt{\alpha_t} (\sqrt{\alpha_{t-1}} x_{t-2} + \sqrt{1 - \alpha_{t-1}} \epsilon_{t-2}) + \sqrt{1 - \alpha_t} \epsilon_{t-1} \\
&= \sqrt{\alpha_t \alpha_{t-1}} x_{t-2} + \sqrt{\alpha_t(1 - \alpha_{t-1})} \epsilon_{t-2} + \sqrt{1 - \alpha_t} \epsilon_{t-1}
\end{align*} x t = α t ( α t − 1 x t − 2 + 1 − α t − 1 ϵ t − 2 ) + 1 − α t ϵ t − 1 = α t α t − 1 x t − 2 + α t ( 1 − α t − 1 ) ϵ t − 2 + 1 − α t ϵ t − 1 可以观察到一个规律。乘以x t − 2 x_{t-2} x t − 2 α \alpha α Z 1 ∼ N ( 0 , σ 1 2 I ) Z_1 \sim \mathcal{N}(0, \sigma_1^2 I) Z 1 ∼ N ( 0 , σ 1 2 I ) Z 2 ∼ N ( 0 , σ 2 2 I ) Z_2 \sim \mathcal{N}(0, \sigma_2^2 I) Z 2 ∼ N ( 0 , σ 2 2 I ) Z 1 + Z 2 ∼ N ( 0 , ( σ 1 2 + σ 2 2 ) I ) Z_1 + Z_2 \sim \mathcal{N}(0, (\sigma_1^2 + \sigma_2^2) I) Z 1 + Z 2 ∼ N ( 0 , ( σ 1 2 + σ 2 2 ) I )
在我们的展开式中，ϵ t − 1 \epsilon_{t-1} ϵ t − 1 ϵ t − 2 \epsilon_{t-2} ϵ t − 2 N ( 0 , I ) \mathcal{N}(0, I) N ( 0 , I ) α t ( 1 − α t − 1 ) ϵ t − 2 + 1 − α t ϵ t − 1 \sqrt{\alpha_t(1 - \alpha_{t-1})} \epsilon_{t-2} + \sqrt{1 - \alpha_t} \epsilon_{t-1} α t ( 1 − α t − 1 ) ϵ t − 2 + 1 − α t ϵ t − 1 ( α t ( 1 − α t − 1 ) ) V a r ( ϵ t − 2 ) + ( 1 − α t ) V a r ( ϵ t − 1 ) = α t ( 1 − α t − 1 ) + ( 1 − α t ) = α t − α t α t − 1 + 1 − α t = 1 − α t α t − 1 (\alpha_t(1 - \alpha_{t-1})) Var(\epsilon_{t-2}) + (1 - \alpha_t) Var(\epsilon_{t-1}) = \alpha_t(1 - \alpha_{t-1}) + (1 - \alpha_t) = \alpha_t - \alpha_t\alpha_{t-1} + 1 - \alpha_t = 1 - \alpha_t\alpha_{t-1} ( α t ( 1 − α t − 1 )) Va r ( ϵ t − 2 ) + ( 1 − α t ) Va r ( ϵ t − 1 ) = α t ( 1 − α t − 1 ) + ( 1 − α t ) = α t − α t α t − 1 + 1 − α t = 1 − α t α t − 1 1 − α t α t − 1 ϵ ˉ t − 2 \sqrt{1 - \alpha_t \alpha_{t-1}} \bar{\epsilon}_{t-2} 1 − α t α t − 1 ϵ ˉ t − 2 ϵ ˉ t − 2 ∼ N ( 0 , I ) \bar{\epsilon}_{t-2} \sim \mathcal{N}(0, I) ϵ ˉ t − 2 ∼ N ( 0 , I )
这得到：
x t = α t α t − 1 x t − 2 + 1 − α t α t − 1 ϵ ˉ t − 2 x_t = \sqrt{\alpha_t \alpha_{t-1}} x_{t-2} + \sqrt{1 - \alpha_t \alpha_{t-1}} \bar{\epsilon}_{t-2} x t = α t α t − 1 x t − 2 + 1 − α t α t − 1 ϵ ˉ t − 2 如果我们继续将此展开一直到x 0 x_0 x 0 α ˉ t = ∏ i = 1 t α i \bar{\alpha}_t = \prod_{i=1}^t \alpha_i α ˉ t = ∏ i = 1 t α i
x t = α ˉ t x 0 + 1 − α ˉ t ϵ 当 ϵ ∼ N ( 0 , I ) x_t = \sqrt{\bar{\alpha}_t} x_0 + \sqrt{1 - \bar{\alpha}_t} \epsilon \quad \text{当} \quad \epsilon \sim \mathcal{N}(0, I) x t = α ˉ t x 0 + 1 − α ˉ t ϵ 当 ϵ ∼ N ( 0 , I ) 这是扩散模型的基本方程。它告诉我们，任何含噪声版本x t x_t x t x 0 x_0 x 0 x 0 x_0 x 0 α ˉ t \sqrt{\bar{\alpha}_t} α ˉ t ϵ \epsilon ϵ 1 − α ˉ t \sqrt{1 - \bar{\alpha}_t} 1 − α ˉ t
等价地，我们可以说条件分布q ( x t ∣ x 0 ) q(x_t | x_0) q ( x t ∣ x 0 )
q ( x t ∣ x 0 ) = N ( x t ; α ˉ t x 0 , ( 1 − α ˉ t ) I ) q(x_t | x_0) = \mathcal{N}(x_t; \sqrt{\bar{\alpha}_t} x_0, (1 - \bar{\alpha}_t) I) q ( x t ∣ x 0 ) = N ( x t ; α ˉ t x 0 , ( 1 − α ˉ t ) I ) 这个分布的均值是α ˉ t x 0 \sqrt{\bar{\alpha}_t} x_0 α ˉ t x 0 ( 1 − α ˉ t ) I (1 - \bar{\alpha}_t) I ( 1 − α ˉ t ) I
由于α t = 1 − β t \alpha_t = 1 - \beta_t α t = 1 − β t β t \beta_t β t α t \alpha_t α t α ˉ t \bar{\alpha}_t α ˉ t α ˉ 0 = 1 \bar{\alpha}_0 = 1 α ˉ 0 = 1 t t t T T T α ˉ t \sqrt{\bar{\alpha}_t} α ˉ t 1 − α ˉ t \sqrt{1 - \bar{\alpha}_t} 1 − α ˉ t t t t x 0 x_0 x 0 x t x_t x t α ˉ T ≈ 0 \bar{\alpha}_T \approx 0 α ˉ T ≈ 0 N ( 0 , I ) \mathcal{N}(0, I) N ( 0 , I )
此图显示了信号率（α ˉ t \sqrt{\bar{\alpha}_t} α ˉ t 1 − α ˉ t \sqrt{1 - \bar{\alpha}_t} 1 − α ˉ t β 1 = 10 − 4 \beta_1 = 10^{-4} β 1 = 1 0 − 4 β 1000 = 0.02 \beta_{1000} = 0.02 β 1000 = 0.02 t t t
对训练的意义
这个封闭形式表达式x t = α ˉ t x 0 + 1 − α ˉ t ϵ x_t = \sqrt{\bar{\alpha}_t} x_0 + \sqrt{1 - \bar{\alpha}_t} \epsilon x t = α ˉ t x 0 + 1 − α ˉ t ϵ ϵ θ ( x t , t ) \epsilon_\theta(x_t, t) ϵ θ ( x t , t ) x t x_t x t ϵ \epsilon ϵ x t x_t x t ϵ \epsilon ϵ
使用此公式，我们可以快速创建这些训练对：
从您的数据集中选择一个数据点x 0 x_0 x 0
从{ 1 , . . . , T } \{1, ..., T\} { 1 , ... , T } t t t
采样一个标准高斯噪声向量 (vector)ϵ ∼ N ( 0 , I ) \epsilon \sim \mathcal{N}(0, I) ϵ ∼ N ( 0 , I )
使用公式计算含噪声样本x t x_t x t x t = α ˉ t x 0 + 1 − α ˉ t ϵ x_t = \sqrt{\bar{\alpha}_t} x_0 + \sqrt{1 - \bar{\alpha}_t} \epsilon x t = α ˉ t x 0 + 1 − α ˉ t ϵ
将( x t , t ) (x_t, t) ( x t , t ) ϵ θ \epsilon_\theta ϵ θ ϵ \epsilon ϵ ϵ θ ( x t , t ) \epsilon_\theta(x_t, t) ϵ θ ( x t , t )
这种直接跳到任何时间步t t t
