训练复杂的卷积神经网络 (neural network) (CNN)，例如前面讨论的那些架构，通常会遇到一些问题。即使采用高级优化器、正则化 (regularization)方法和细致的初始化，要达到最佳性能也需要认真监控和系统化调试。如果缺乏有效的跟踪，训练很容易在不被察觉的情况下出错，导致模型性能不佳、计算资源浪费或训练彻底失败。本节提供了监控训练进展和诊断出现问题时的策略与方法。
监控重要的训练指标
调试的根本是观察。在训练过程中持续跟踪特定指标，能提供理解模型行为和及早发现潜在问题所需的认识。
损失函数 (loss function)：训练与验证
最基本的指标是训练损失和验证损失。将它们随训练轮次绘制成图是常规做法：
- 训练损失： 衡量模型对训练数据的拟合程度。它通常会随时间降低。
- 验证损失： 衡量模型在训练集之外的未见数据上的表现。这估计了泛化能力。
分析这两条曲线之间的关系很有帮助：
- 两者均下降： 训练进展良好。
- 训练损失下降，验证损失停滞/增加： 这是过拟合 (overfitting)的典型迹象。模型对训练数据学习得过于充分，包括其中的噪声，从而丧失了泛化能力。可能需要采用高级正则化 (regularization)方法、数据增强或获取更多数据。
- 两者均停滞： 训练可能已收敛，学习率可能过低，或者模型可能缺乏学习任务的能力（欠拟合 (underfitting)）。考虑调整学习率或尝试更复杂的架构。
- 两者均增加或剧烈波动： 这通常表明存在不稳定。学习率可能过高，数据可能存在问题，或者损失计算或梯度传播中可能存在错误。
损失曲线显示了潜在的过拟合（蓝/橙色），其中验证损失开始增加；以及停滞/欠拟合（绿/紫色），其中两种损失都在高值处趋于平稳。
针对特定任务的性能指标
虽然损失表明了优化进展，但它并不总是与最终目标完美关联。在验证集上监控针对特定任务的指标，例如：
- 准确率： 用于分类任务。
- 交并比 (IoU)、Dice 系数： 用于分割任务。
- 平均精度均值 (mAP)： 用于目标检测任务。
- Fréchet Inception 距离 (FID)、Inception 分数 (IS)： 用于生成模型 (GANs)。
有时，验证损失可能略有改善，但主要性能指标却停滞不前或下降。这可能表示指标实现本身存在问题，或者损失函数并非期望结果的最佳代表。
学习率动态
如果使用学习率调度器，请将实际学习率值随训练迭代次数或训练轮次的变化进行可视化。这可确认调度器是否正确实现（例如，循环调度器是否在循环，衰减调度器是否按预期衰减）。不正确的学习率是训练问题的一个常见原因。
诊断训练不稳定
深度网络有时会表现出不稳定的训练动态。找出原因对于恢复很重要。
梯度爆炸
- 表现： 损失迅速增加到
Inf（无穷大）或 NaN（非数字）。训练停止。
- 诊断： 当梯度变得过大时，会导致权重 (weight)大幅更新，从而发生这种情况。在反向传播 (backpropagation)过程中监控梯度的范数（大小）可以证实这一点。如果梯度范数在损失爆炸前急剧上升，这很可能是原因。
- 缓解： 梯度裁剪是主要手段，它在“梯度裁剪与梯度流缓解”一节中有所讨论。降低学习率也有帮助。有时，自定义层或操作中的数值不稳定也会促成此问题。
梯度消失
- 表现： 训练或验证损失在训练初期就停滞不前，或者即使学习率合理也改善得非常缓慢。参数 (parameter)更新变得微乎其微。
- 诊断： 梯度在通过许多层反向传播时变得非常小，尤其是在经过某些激活函数 (activation function)（如 Sigmoid）或在没有残差连接等机制的非常深的网络中。监控每层的梯度范数可以显示出在早期层中梯度减小到接近零的情况。检查激活值的分布也可能有所帮助；如果激活值持续被推入激活函数的饱和区域（如 Sigmoid 的 0 或 1），则通过这些单元的梯度将接近零。
- 缓解： 适当的权重初始化策略、使用不易饱和的激活函数（如 ReLU 及其变体）、归一化 (normalization)层（如批量归一化）以及架构特点（如 ResNets 中的残差连接）都旨在对抗这种情况。如果怀疑出现梯度消失，则有必要重新审视这些方面。
一个基于损失表现的常见训练不稳定问题的简化诊断流程图。
调试模型内部
检查模型的内部状态可以提供有价值的线索。
权重 (weight)与激活值可视化
定期可视化不同层中权重和激活值的分布可以显示出问题：
- 权重直方图： 初始化后通常应显示一个大致对称的分布（例如，类似高斯分布），以零为中心，并在训练期间演变。非常大的权重可能表示潜在的不稳定或过拟合 (overfitting)。停留在零附近的权重可能表示神经元死亡或学习不足。
- 激活值直方图： 可视化激活函数 (activation function)（例如，ReLU 或 Sigmoid 之后）的输出可以显示神经元是否处于死亡状态（始终输出零）或饱和状态（始终输出最大值，如 Sigmoid 的 1）。健康的训练通常显示激活值具有一定范围的分布。
梯度流分析
与权重和激活值类似，可视化通过每层反向流动的梯度的分布或大小有助于直接诊断梯度消失或梯度爆炸问题。TensorBoard 等工具允许绘制这些分布图。如果梯度在早期层中持续缩小到接近零，则证实存在梯度消失问题。反之，非常大的梯度表明潜在的爆炸。
在小数据子集上过拟合
一个有效的健全性检查是尝试让模型在一个非常小的训练数据子集上过拟合，可能只是一两个批次（例如，16-64 张图像）。为此测试禁用正则化 (regularization)和数据增强。一个足够复杂的模型应该能够在这个小数据集上快速达到接近零的损失。如果不能，则强烈表明您的模型架构、损失计算、数据加载管道或优化器设置中存在根本性错误。在模型通过这项基本测试之前，不要进行全面训练。
运用工具和框架
手动实现所有监控可能很繁琐。实验跟踪工具对于严肃的深度学习 (deep learning)开发来说必不可少：
- TensorBoard： 一个来自 TensorFlow 的开源可视化工具包，也与 PyTorch 兼容。它记录指标，可视化模型图、权重 (weight)/激活值/梯度直方图、图像等。
- Weights & Biases (WandB)： 一个商业平台（为个人/学术用途提供免费层级），提供增强的实验跟踪、可视化、协作功能、超参数 (parameter) (hyperparameter)扫描和工件存储。
这些工具提供仪表板，可以轻松查看图表、比较不同的训练运行（例如，使用不同超参数的运行）并存储结果，极大地简化了监控和调试工作流程。
识别常见的实现错误
在假设存在复杂的理论问题之前，务必仔细检查常见的实现错误：
- 损失函数 (loss function)不正确： 确保损失函数与任务匹配（例如，多类别分类使用 CrossEntropyLoss，二元或多标签使用 BCELossWithLogits，检测/分割使用特定损失）。
- 数据预处理/归一化 (normalization)： 训练和验证/测试之间归一化不一致，或归一化常数不正确，都可能严重阻碍性能。数据增强中的错误有时会以意想不到的方式损坏数据。
- 张量形状不匹配： 运行时错误通常能发现这些问题，但不明显的形状问题（例如，在全连接层之前不正确的展平）可能导致性能不佳而不会崩溃。
- 模型模式 (
train/eval)： 忘记在训练模式 (model.train()) 和评估模式 (model.eval()) 之间切换模型是一个常见错误。这会影响 Dropout（训练时活跃，评估时非活跃）和批量归一化（训练时更新运行统计数据，评估时使用固定统计数据）等层。在验证/测试期间未能设置 model.eval() 会导致性能估计不准确。
调试的系统化方法
当遇到性能不佳的模型时，请采用系统化方法：
- 简化： 从一个已知、标准的架构（例如 ResNet-18）开始，而不是高度定制的架构。首先使用数据集的一个较小版本或标准基准数据集。最初禁用复杂的增强和正则化 (regularization)。
- 确保可复现性： 为 Python、NumPy 和您的深度学习 (deep learning)框架（TensorFlow/PyTorch）设置随机种子，以获得运行之间的一致结果，从而更容易验证更改的影响。
- 隔离更改： 一次只修改一个组件或超参数 (parameter) (hyperparameter)（例如，只更改学习率，或只添加一种正则化）。在进行进一步更改之前，观察其效果。
- 验证数据管道： 明确检查数据加载器的输出。可视化图像批次及其对应的标签，以确保它们是正确的、经过适当预处理的，并按预期进行了增强。
- 检查模型输入/输出： 将单个已知数据样本通过模型，并检查不同阶段的输出形状和值，尤其是在损失计算之前。
调试深度学习模型可能具有挑战性，通常需要耐心和有条不理的实验。监控提供必要的可见性，而系统化方法有助于隔离问题的根本原因，最终促成高级CNN更成功、更高效的训练。
