调试不稳定的GAN训练

训练生成对抗网络，特别是先进架构，通常感觉更像一门艺术而非科学。尽管使用了复杂的稳定方法，例如带有梯度惩罚的Wasserstein损失或谱归一化，但训练过程中仍不可避免地会出现问题。提供了诊断和解决复杂GAN实现及改进过程中常见不稳定问题的实用策略。

调试GAN需要耐心和系统的方法。与标准的监督学习不同，监督学习中单调下降的损失值通常表示进展，而GAN训练涉及两个竞争网络之间的精妙平衡。成功并非仅仅通过观察损失值下降就能保证；您需要理解其动态变化并仔细评估输出。

观察症状

调试的第一步是识别问题的迹象。不稳定的训练会以几种方式表现出来：

1. 损失发散： 生成器($G$)或判别器($D$)的损失值飙升至无穷大，或者剧烈波动而没有收敛趋势。有时，一个损失值急剧下降到零，而另一个则无限增加。
2. 模式崩溃： 生成器产生的输出种类极其有限，有时会崩溃到单个重复的样本，无论输入噪声向量$z$如何。生成的样本单独看可能合理，但缺乏多样性。
3. 梯度消失或爆炸： 流经任一网络的梯度变得非常小（消失），阻碍了有效的权重更新，或者变得过大（爆炸），导致数值不稳定（常表现为NaN损失值）。
4. 不收敛： 损失值可能保持相对稳定，但在长时间训练后没有改善。生成的样本质量仍然较差或没有进展。
5. 样本质量差： 生成的样本持续显示出不真实的特征、伪影（如棋盘格图案）、噪声或缺乏连贯性。

诊断工具和方法

有效的调试依赖于仔细的监控。对于先进的GAN来说，仅仅运行model.fit()并寄希望于最好结果通常是不够的。

监控损失曲线

绘制生成器和判别器随时间变化的损失曲线是最基本的诊断工具。然而，解释这些图表需要理解对抗动态：

• 健康的训练（理想情况）： 生成器($G$)和判别器($D$)的损失都会在开始时下降，然后理想地稳定或在有限范围内波动，表明达到平衡。绝对值不如趋势和稳定性重要，尤其对于Wasserstein距离这样的损失函数。
• 判别器“赢”得太容易： $D$的损失迅速下降接近零。这通常意味着$D$能完美地区分真实样本和虚假样本，无法向$G$提供有用的梯度信息。$G$的损失可能停滞或增加。
• 生成器“赢”： $D$的损失显著增加或剧烈波动。这可能发生在$G$生成的样本持续欺骗$D$时，或者$D$未能有效学习时。
• 模式崩溃迹象： $D$的损失可能会显著下降（因为它很容易区分$G$生成的少量模式与真实数据），而$G$的损失可能停滞不前，甚至略微下降，如果它找到一个暂时欺骗$D$的模式。

损失曲线示例，展示了健康的收敛情况与判别器损失迅速下降可能阻碍生成器训练的场景。

样本的视觉检查

仅凭损失值是不够的。在整个训练过程中，定期使用固定噪声向量和随机噪声向量生成样本网格。

• 固定噪声： 有助于评估生成器是否针对特定输入随时间稳定学习。
• 随机噪声： 有助于评估生成输出的多样性。检查是否存在模式崩溃（重复图像）或视觉保真度提高的迹象。
• 插值： 通过在潜在空间中对两个噪声向量$z_1$和$z_2$进行插值来生成样本。平滑的过渡表明潜在空间表现良好；突然的变化可能表明不稳定或纠缠（这与第5章讨论的PPL等指标相关）。

定期保存样本网格（例如，每N个epoch或M个训练步），以便直观地跟踪进展。这种定性评估通常比原始损失值更能说明问题。

梯度和权重监控

现代深度学习框架和工具，如TensorBoard或Weights & Biases，使得监控每个层的梯度统计量（范数、分布）和权重分布变得容易。

• 梯度消失： 查找平均梯度幅度持续接近零的层。如果判别器提供弱信号，这对生成器尤其不利。
• 梯度爆炸： 监控梯度范数的突然激增或NaN值的出现。这表明数值不稳定。梯度裁剪可以作为临时解决方案，但解决根本原因（例如学习率、归一化）会更好。WGAN-GP和谱归一化专门用于减轻判别器中与梯度相关的问题。
• 权重范数： 跟踪权重矩阵的范数。谱归一化等方法直接限制这些范数。权重无限制增长可能是训练不稳定的迹象。

常见故障模式和调试步骤

以下是常见问题及其处理方法：

模式崩溃

• 症状： 输出多样性低，样本重复。$D$的损失值可能低得可疑。
• 潜在解决方案：
  • 损失函数： 确保使用如带有梯度惩罚的Wasserstein损失（WGAN-GP）等调整良好的损失函数，或尝试相对论性GAN（第3章）。原始的minimax或非饱和损失更容易崩溃。
  • 超参数： 尝试调整学习率（TTUR可能有用）、优化器设置（AdamW代替Adam）和批次大小。
  • 架构： 对于某些问题，较旧的技术，如小批量判别（现在较少使用）或向判别器输入/输出添加噪声可能有用。确保生成器能力足够。
  • 数据增强： 对真实数据应用适当的增强。
  • 正则化： 如果使用WGAN-GP，增加梯度惩罚的权重。

判别器压倒生成器

• 症状： $D$的损失降至接近零，$G$的损失停滞在高位或爆炸。$G$中没有学习发生。
• 潜在解决方案：
  • 训练比例： 训练$G$的频率高于$D$（例如，每次$D$更新对应2次$G$更新）。
  • 学习率： 降低$D$的学习率，可能增加$G$的学习率（采用TTUR原则）。
  • 判别器能力/正则化： 简化$D$的架构或增加其正则化（例如，更强的权重衰减，dropout——尽管在SN/GP中较少见）。确保谱归一化或梯度惩罚正确实现和应用。
  • 优化器： 尝试对$D$使用不同的优化器。

生成器压倒判别器

• 症状： $D$的损失增加，无法下降，或无法控制地波动。$G$可能产生噪声或无意义的输出。
• 潜在解决方案：
  • 训练比例： 训练$D$的频率高于$G$。
  • 学习率： 降低$G$的学习率，可能增加$D$的学习率。
  • 判别器能力： 如果$D$看起来太简单而无法捕捉真实数据分布，则增加其复杂性（更多层/滤波器）。
  • 损失函数实现： 仔细检查$D$的损失计算。确保正确处理真实和虚假批次。
  • 数据问题： 验证真实数据是否正确输入并经过适当预处理。

普遍不稳定 / 不收敛

• 症状： 损失剧烈波动，样本质量不稳定，没有明显进展。
• 潜在解决方案：
  • 归一化： 确保正确使用归一化层（批量归一化、实例归一化、层归一化，或$D$中的谱归一化）。注意批量归一化在小批次大小或条件生成时可能出现的问题；在某些StyleGAN组件中，实例归一化或层归一化可能是更好的选择。
  • 权重初始化： 使用适当的初始化方案（例如，ReLU/LeakyReLU的He初始化）。使用不同的随机种子重新运行，检查敏感性。
  • 超参数： 这通常是主要问题。系统地调整学习率、批次大小、优化器参数（例如Adam的$\beta_1, \beta_2$）和正则化强度（梯度惩罚系数）。
  • 架构简化： 暂时简化$G$和$D$，看基本版本是否能稳定训练。
  • 优化器选择： 尝试AdamW、RMSprop，甚至带有动量的SGD，尽管Adam/AdamW最常见。

系统的调试流程

避免随机更改参数。采纳一个结构化流程：

调试GAN训练不稳定性的简化流程。

1. 建立基线： 如果可能，从文献或之前的实验中已知的良好超参数开始。
2. 广泛监控： 记录损失，生成样本网格，并理想情况下从一开始就监控梯度/权重。
3. 识别主要症状： 最明显的故障模式是什么？（例如，模式崩溃？$G$损失爆炸？）
4. 提出假设： 根据症状和您对GAN动态的理解，猜测可能的原因（例如，“判别器学习率过高，导致它压倒了生成器”）。
5. 修改一项： 仅根据您的假设修改一个元素（例如，将判别器学习率减半）。
6. 重新训练并比较： 再次运行训练足够长时间，并将监控输出（损失、样本）与基线进行比较。
7. 评估： 这项改变是否改善了稳定性或解决了症状？如果是，保留此更改并继续优化或解决下一个问题。如果否，则恢复更改并提出新假设。
8. 记录： 仔细记录您的实验，包括超参数、代码版本、观察到的结果和生成的样本。

调试GAN是一个迭代过程，它结合了理论理解和实证研究。通过仔细观察训练动态，使用合适的诊断工具，并进行系统性更改，您可以应对这些复杂情况，并构建出稳定、高性能的生成模型。