ApX 标志ApX 标志

趋近智

大模型显存计算器硬件课程定价
ApX 标志ApX 标志

趋近智

大模型显存计算器硬件课程定价

所有课程

归一化流简介
章节 1: 可逆变换的数学原理
随机变量与分布
变量代换定理
计算雅可比行列式
前向传播与反向传播
雅可比矩阵计算实践
章节 2: 构建标准化流
定义规范化流
堆叠变换
平面流与径向流
选择基础分布
实现平面流练习
章节 3: 自回归流
自回归生成模型
分布估算遮罩自编码器
掩码自回归流 (MAF)
逆自回归流
构建自回归模型实践
章节 4: 耦合架构
仿射耦合层
RealNVP 架构
多尺度架构
ActNorm 与可逆卷积
实现耦合层实践
章节 5: 训练流模型
极大似然估计
密度估计的损失函数
数据去量化方法
采样流程
正规化流训练实践

仿射耦合层

自回归 (autoregressive)模型按顺序处理数据。这导致了计算瓶颈。虽然它们可以高效地评估概率密度,但生成新样本需要等待前面的元素计算完成。仿射耦合层解决了这种结构限制。通过对输入进行分割,这些层能够实现前向和反向的并行化操作,使其在密度估计和数据生成方面效率极高。

仿射耦合层将输入张量 xxx 分为两个部分:x1x_1x1​ 和 x2x_2x2​。第一部分 x1x_1x1​ 完全不加修改地通过该层。然后,该层使用这些未改变的数据来确定如何对第二部分 x2x_2x2​ 进行缩放和平移。

设 DDD 为输入数据 xxx 的维度,设 ddd 为分割发生的索引,满足 1≤d<D1 \le d < D1≤d<D。分割产生 x1=x1:dx_1 = x_{1:d}x1​=x1:d​ 和 x2=xd+1:Dx_2 = x_{d+1:D}x2​=xd+1:D​。产生输出 yyy 的前向变换使用以下操作:

y1=x1y_1 = x_1y1​=x1​

y2=x2⊙exp⁡(s(x1))+t(x1)y_2 = x_2 \odot \exp(s(x_1)) + t(x_1)y2​=x2​⊙exp(s(x1​))+t(x1​)

这里,⊙\odot⊙ 表示逐元素相乘。函数 sss 和 ttt 表示缩放和平移操作。这些函数通常由神经网络 (neural network)实现。缩放网络 s(x1)s(x_1)s(x1​) 的输出经过指数运算,以确保缩放因子保持严格为正,这是数值稳定性和可逆性的要求。

仿射耦合层在前向传递过程中的数据流。

当你反转变换时,这种架构的实际优势就变得显而易见。由于 y1y_1y1​ 与 x1x_1x1​ 相同,你可以立即使用 y1y_1y1​ 来重新计算完全相同的缩放和平移因子。你不需要求神经网络 sss 和 ttt 的逆来恢复原始输入。

x1=y1x_1 = y_1x1​=y1​

x2=(y2−t(y1))⊙exp⁡(−s(y1))x_2 = (y_2 - t(y_1)) \odot \exp(-s(y_1))x2​=(y2​−t(y1​))⊙exp(−s(y1​))

这一数学特性非常有利。它允许神经网络 sss 和 ttt 根据需要设计得尽可能复杂。你可以集成深层残差网络、注意力机制 (attention mechanism)或稠密卷积层。只要这些网络接受维度为 ddd 的输入并产生维度为 D−dD-dD−d 的输出,整个仿射耦合层在分析上就保持完美可逆。

在规范化流中,计算准确的概率密度需要计算雅可比矩阵(Jacobian matrix)的行列式。对于仿射耦合层,雅可比矩阵 JJJ 表示输出相对于输入的偏导数。

J=[∂y1∂x1∂y1∂x2∂y2∂x1∂y2∂x2]J = \begin{bmatrix} \frac{\partial y_1}{\partial x_1} & \frac{\partial y_1}{\partial x_2} \\ \frac{\partial y_2}{\partial x_1} & \frac{\partial y_2}{\partial x_2} \end{bmatrix}J=[∂x1​∂y1​​∂x1​∂y2​​​∂x2​∂y1​​∂x2​∂y2​​​]

我们可以根据前向传递方程来分析这四个具体的块。

左上角的块是 y1y_1y1​ 对 x1x_1x1​ 的导数。由于 y1=x1y_1 = x_1y1​=x1​,其结果为一个单位矩阵 III。

右上角的块是 y1y_1y1​ 对 x2x_2x2​ 的导数。因为 y1y_1y1​ 完全不依赖于 x2x_2x2​,所以其结果为一个零矩阵 000。

左下角的块是 y2y_2y2​ 对 x1x_1x1​ 的导数。这包含了神经网络 sss 和 ttt 的复杂导数。为了计算行列式,我们将这个稠密矩阵块简单地记为 AAA。

右下角的块是 y2y_2y2​ 对 x2x_2x2​ 的导数。由于 y2=x2⊙exp⁡(s(x1))+t(x1)y_2 = x_2 \odot \exp(s(x_1)) + t(x_1)y2​=x2​⊙exp(s(x1​))+t(x1​),对 x2x_2x2​ 的导数分离出了缩放因子。这将产生一个包含缩放输出指数值的对角矩阵,记为 diag(exp⁡(s(x1)))\text{diag}(\exp(s(x_1)))diag(exp(s(x1​)))。

代入这些评估后的块,就得到了雅可比矩阵的完整结构。

J=[I0Adiag(exp⁡(s(x1)))]J = \begin{bmatrix} I & 0 \\ A & \text{diag}(\exp(s(x_1))) \end{bmatrix}J=[IA​0diag(exp(s(x1​)))​]

由于右上角的块严格为零,雅可比矩阵构成了一个块下三角矩阵。线性代数的一个基本规则规定,任何三角矩阵的行列式仅仅是其主对角线上元素的乘积。块 AAA 中包含的复杂偏导数不会影响行列式。

为了计算变量替换公式所需的雅可比行列式对数,我们对这些对角线元素的自然对数求和。

log⁡∣det⁡(J)∣=∑j=1D−ds(x1)j\log |\det(J)| = \sum_{j=1}^{D-d} s(x_1)_jlog∣det(J)∣=∑j=1D−d​s(x1​)j​

这种运算在计算上非常简单。你只需要对缩放网络的输出向量 (vector)求和。不需要昂贵的矩阵分解或迭代近似,这使得密度估计变得极快。

单个仿射耦合层总是保持 x1x_1x1​ 不变。如果一个模型仅由相同的耦合层组成,它将永远无法学习如何变换数据分布的第一部分。为了构建有效的生成模型,必须堆叠多个仿射耦合层并交替分割策略。

在第一层中,索引从 1 到 ddd 的元素可能充当 x1x_1x1​。在随后的层中,索引从 d+1d+1d+1 到 DDD 的元素将充当 x1x_1x1​。这种交替模式确保了输入向量的所有维度最终都能得到变换。为这种交替实现特定的掩码策略,是现代架构扩展到高维图像数据的方式。

© 2026 ApX Machine Learning