一致性模型 f θ ( x t , t ) f_\theta(x_t, t) f θ ( x t , t ) ( x t , t ) (x_t, t) ( x t , t ) x ^ 0 \hat{x}_0 x ^ 0
单步生成
一致性模型最直接的应用是单步生成。这种方法旨在模型的一次正向传播中生成一个样本，提供最快的推理 (inference)速度。
步骤如下：
从先验分布中采样初始噪声向量 (vector) x T x_T x T x T ∼ N ( 0 , I ) x_T \sim \mathcal{N}(0, I) x T ∼ N ( 0 , I ) T T T
使用此噪声向量和对应的最大时间 T T T f θ f_\theta f θ x ^ 0 = f θ ( x T , T ) \hat{x}_0 = f_\theta(x_T, T) x ^ 0 = f θ ( x T , T )
输出 x ^ 0 \hat{x}_0 x ^ 0
这次单次评估取代了 DDPM 或 DDIM 采样器通常需要的数百或数千步。其基本原理依赖于训练好的模型能够近似地将 ODE 轨迹上的任意点 ( x t , t ) (x_t, t) ( x t , t ) x 0 x_0 x 0
优点：
极速： 单步生成是可能的最快方法，每个样本只需一次网络评估。简单： 采样算法实现起来非常简单。
缺点：
潜在质量折衷： 单步生成的样本质量可能低于多步一致性采样或传统扩散模型生成的样本，特别是当一致性属性未能完美掌握所有时间步时。从 x T x_T x T x ^ 0 \hat{x}_0 x ^ 0
单步采样在生成速度是主要考量的应用中尤其有用，例如实时交互系统，即使这意味着对最高可能保真度略有折衷。
多步生成
为了提升样本质量，同时仍保持相对于传统方法的明显速度优势，一致性模型可用于多步生成过程。这种方法迭代地使用一致性属性，加入中间去噪和噪声注入步骤以改进估计。
多步算法通常包括以下内容：
选择采样步数 N N N
定义时间步序列 T = t N > t N − 1 > ⋯ > t 1 > t 0 = 0 T = t_N > t_{N-1} > \dots > t_1 > t_0 = 0 T = t N > t N − 1 > ⋯ > t 1 > t 0 = 0 ϵ \epsilon ϵ ϵ = 0.002 \epsilon=0.002 ϵ = 0.002
采样初始噪声向量 (vector)：x t N ∼ N ( 0 , I ) x_{t_N} \sim \mathcal{N}(0, I) x t N ∼ N ( 0 , I )
从 i = N i = N i = N 1 1 1 x t i x_{t_i} x t i t i t_i t i x ^ 0 ( i ) = f θ ( x t i , t i ) \hat{x}_0^{(i)} = f_\theta(x_{t_i}, t_i) x ^ 0 ( i ) = f θ ( x t i , t i ) i > 1 i > 1 i > 1 t i − 1 t_{i-1} t i − 1 z i ∼ N ( 0 , I ) z_i \sim \mathcal{N}(0, I) z i ∼ N ( 0 , I ) x t i − 1 = x ^ 0 ( i ) + t i − 1 2 − ϵ 2 ⋅ z i x_{t_{i-1}} = \hat{x}_0^{(i)} + \sqrt{t_{i-1}^2 - \epsilon^2} \cdot z_i
x t i − 1 = x ^ 0 ( i ) + t i − 1 2 − ϵ 2 ⋅ z i x ^ 0 ( i ) \hat{x}_0^{(i)} x ^ 0 ( i ) x t i − 1 x_{t_{i-1}} x t i − 1 ϵ 2 \epsilon^2 ϵ 2 i = 1 i = 1 i = 1 x ^ 0 ( 1 ) \hat{x}_0^{(1)} x ^ 0 ( 1 )
返回最终估计值 x ^ 0 = x ^ 0 ( 1 ) \hat{x}_0 = \hat{x}_0^{(1)} x ^ 0 = x ^ 0 ( 1 )
此过程在每一步 i i i x t i x_{t_i} x t i x ^ 0 ( i ) \hat{x}_0^{(i)} x ^ 0 ( i ) t i − 1 t_{i-1} t i − 1
优点：
样本质量提升： 与单步生成相比，迭代优化通常会带来更高保真度的样本，这些样本与原始扩散模型（如果经过蒸馏）的质量或目标分布更匹配。灵活折衷： 步数 N N N N N N
缺点：
计算量增加： 需要进行 N N N
下图说明了单步和多步采样路径之间的区别：
单步采样直接将初始噪声 x T x_T x T x ^ 0 \hat{x}_0 x ^ 0 x t 3 → x t 2 → x t 1 x_{t3} \rightarrow x_{t2} \rightarrow x_{t1} x t 3 → x t 2 → x t 1 x ^ 0 \hat{x}_0 x ^ 0
实际考量
时间步安排： 多步采样中序列 t N , … , t 1 t_N, \dots, t_1 t N , … , t 1 噪声项： t i − 1 2 − ϵ 2 \sqrt{t_{i-1}^2 - \epsilon^2} t i − 1 2 − ϵ 2 t 1 > ϵ t_1 > \epsilon t 1 > ϵ 边界条件 ϵ \epsilon ϵ 这个小值可以防止当 t i − 1 t_{i-1} t i − 1
通过选择单步或多步生成，您可以在推理 (inference)速度需求与期望的样本质量水平之间取得平衡，这使得一致性模型成为高效生成建模的多用途工具。
