当机器学习模型的性能下降 (m<ϕ) 或检测到明显的数据/概念漂移 (d>θ) 时，一个重要选择便出现了：究竟应该使用哪些数据来训练新的模型版本？数据策略的选择直接影响所需的计算资源、模型适应新模式的速度以及其保留先前所学知识的能力。选择不当的策略可能导致模型反应迟缓、计算负担沉重或容易遗忘有价值的信息。下面我们来看一下常见的方法。
完整数据集再训练
最直接的策略是使用所有可用的历史数据集从头开始再训练模型，通常还会加入自上次训练周期以来收集到的任何新数据。
- 原理： 将所有历史训练数据与新获取的（并已标注的）生产数据结合。在这个完整的数据集上训练一个新的模型实例。
- 优点：
- 简单易行： 易于理解和实施。该过程与初始模型训练相似。
- 知识保留： 通过使用所有历史数据，与使用有限数据窗口的策略相比，模型不太可能遗忘旧的模式。它旨在捕捉在整个数据历史中观察到的完整关系。
- 潜在稳定性： 如果底层过程具有长期一致性，通过在较长时间内进行平均，可以带来更稳定的模型。
- 缺点：
- 计算成本： 这通常是计算成本最高的方法，需要大量时间和资源，特别是随着数据集的增长。训练时间可能会变得非常长，令人难以承受。
- 适应缓慢： 模型对近期变化或漂移的适应可能较慢，因为新数据模式可能会被大量的历史数据稀释。
- 数据管理： 需要高效的存储和访问机制来处理可能非常大的数据集。
- 延续过去问题： 如果历史数据包含偏见或异常，完整再训练将继续从中学到这些，除非采取具体的缓解措施。
- 使用场景： 最适合初始模型训练、怀疑数据生成过程发生根本性长期变化的场景，或者当计算资源充足且可接受较慢的适应周期时。
滑动窗口再训练
该策略侧重于通过仅使用最新数据的固定大小窗口进行训练，使模型适应最新的数据模式。
- 要点： 定义一个窗口大小，可以通过样本数量 (N) 或时间长度 (T) 来确定。当再训练被触发时，仅使用最新窗口内的数据，并丢弃旧数据。例如，在数据 Dt={(xi,yi)}i=t−N+1t 上进行训练。随着新数据的到来，窗口会向前“滑动”。
- 优点：
- 快速适应： 模型能够快速适应近期变化、季节性或漂移，因为训练专门关注当前数据动态。
- 较低计算成本： 与完整再训练相比，使用更小、固定大小的窗口显著减少了训练时间和资源需求。
- 隐含地遗忘旧数据： 自动丢弃窗口中不再存在、可能过时或不相关的历史数据模式。
- 缺点：
- 灾难性遗忘： 模型可能完全遗忘与当前窗口外数据相关的模式或知识。如果旧模式再次出现，这尤其成问题。
- 对窗口大小的敏感性： N 或 T 的选择非常重要。窗口过小可能导致模型噪声过大，对短期波动过度拟合。窗口过大则会削弱其适应速度的优势。最佳窗口大小通常需要实验，甚至可能需要动态调整。
- 遗漏长期趋势： 无法轻易地建模超出所选窗口大小的趋势或周期。
- 不稳定性： 如果窗口恰好捕捉到异常时期（例如，假日销售高峰、数据中断），则结果模型在正常情况下可能会表现不佳。
训练窗口（蓝色）大小为 N，随着新数据的到来（t1 到 t2）向前滑动。只有当前窗口内的数据用于再训练，而旧数据（灰色）则被排除。
- 使用场景： 概念漂移频繁的环境、对近期趋势响应迅速很重要的应用（例如：推荐系统、金融市场）、以及再训练计算资源有限的系统。
增量批次再训练（增长窗口/混合）
这种方法试图通过在纳入新数据的同时，仍使用很大一部分历史背景，来平衡适应速度与知识保留。
- 方法： 这种策略不是完全丢弃旧数据（如滑动窗口）或使用所有数据（如完整再训练），而是将新数据添加到不断增长的基础数据集中，或将稳定的历史基础与近期窗口结合。
- 增长窗口： 从初始数据集 D0 开始。在时间 t 处，在 Dt=Dt−1∪{自 t−1 以来的新数据} 上进行再训练。数据集持续增长。
- 固定基础 + 窗口： 维护一个较大、相对固定的历史数据集 Dbase，并在每次再训练运行时将其与近期数据的滑动窗口 Dwindow 结合：Dtrain=Dbase∪Dwindow。
- 优点：
- 平衡适应与保留： 通常比纯滑动窗口更好地保留历史知识，同时比完整再训练适应更快（尤其是固定基础 + 窗口方法）。
- 更平滑的过渡： 与小型滑动窗口相比，模型更新可能不那么突然。
- 缺点：
- 成本增长（增长窗口）： 随着数据集变得非常庞大，增长窗口方法最终在计算成本和适应速度缓慢方面类似于完整再训练。
- 复杂性： 管理数据集组合（固定基础 + 窗口）增加了实施复杂性。确定基础和窗口的最佳大小/时效性需要仔细调整。
- 基础数据过时可能性： 在固定基础方法中，如果基础数据集未定期刷新，它最终可能会过时。
- 使用场景： 需要在适应近期变化和保持长期知识之间取得平衡的场景，以及灾难性遗忘是一个重要问题但完整再训练又过于缓慢或昂贵的情况。
在线学习（简要区别）
虽然本节主要关注批次再训练策略（模型定期在批次数据上进行再训练），但将它们与真正的在线学习区分开来很重要。
- 原理： 在线学习随着每个新数据点或非常小的微批次的到来，逐步更新模型。没有由监控触发的明确的“再训练周期”；更新是连续的。
- 差异： 需要特定的模型类型（例如，可以通过随机梯度下降训练的模型）以及为增量更新设计的算法。适应几乎是即时的。验证更为复杂，因为在部署之前没有明确的“候选模型”阶段。
- 注意： 在线学习本身具有一系列挑战和优势，尤其是在稳定性、监控和验证方面。在本章后面的
online-learning-vs-batch 部分，它将与批次再训练进行对比。上面讨论的策略（完整、滑动窗口、增量批次）都属于批次再训练的范畴，即使批次处理得很频繁。
比较与选择标准
选择合适的策略涉及权衡针对您的应用、数据和操作限制的多个因素。
| 策略 |
适应速度 |
计算成本 |
遗忘风险 |
实施复杂性 |
数据要求 |
| 完整数据集 |
慢 |
很高 |
低 |
低 |
访问完整历史数据 |
| 滑动窗口 |
快 |
中等 |
高 |
中等 |
近期窗口 (N 或 T) |
| 增量批次 |
中速-快 |
高（且增长） |
中等 |
中高 |
增长的历史数据/混合 |
| 在线学习 |
非常快 |
低（每次更新） |
高（潜在） |
高（取决于算法） |
当前实例/微批次 |
影响选择的因素：
- 概念漂移速度： 输入和输出之间的关系变化有多快？更快的漂移倾向于滑动窗口或在线学习等策略。
- 数据量和速度： 高数据量/速度可能使完整再训练不可行。
- 计算预算： 有限的资源会限制完整或大型增量批次再训练的可行性。
- 模型算法： 您的模型是否支持高效的增量更新（用于在线学习）或热启动（可能有利于增量批次）？
- 稳定性与响应性： 对于模型来说，是高度稳定更重要，还是即时响应最新数据更重要？
- 季节性/长周期： 滑动窗口必须足够大以捕捉相关周期。完整或增量策略可能更自然地处理这些。
- 法规/审计需求： 完整再训练可能在所使用数据的准确性方面提供更简单的可审计性，尽管适当的版本控制可以解决其他方法的问题。
- 标签延迟： 获取真实标签所需的时间显著影响任何再训练策略可用数据的“时效性”。
实际考量
无论选择何种策略，请记住以下几点：
- 数据质量： 始终对所选再训练数据集进行严格的数据验证和清洗。“垃圾进，垃圾出”的原则仍然适用。
- 数据版本控制： 实施机制来对每次再训练运行所使用的精确数据集进行版本控制（例如，使用数据版本控制工具或清晰的元数据日志）。这对于可重现性、调试和回滚非常重要。
- 策略监控： 监控所选数据策略本身的有效性。窗口大小是否合适？增长的数据集是否变得过大？准备好根据观察到的性能调整策略。
为自动化再训练选择数据并非一次性决定。它需要仔细权衡取舍并持续评估，以确保您的模型在不断变化的生产环境中保持准确性和相关性。
