循环变分自编码器 (RVAE) 用于时间序列建模

标准VAE在数据样本相互独立时表现出色。然而，时间序列数据具有固有的时间依赖性，这需要不同的处理方法。循环变分自编码器（RVAE）是VAE框架的一种变体，专门用于建模和生成时间序列等顺序数据。通过将循环神经网络 (neural network)（RNN）整合到其架构中，RVAE能够获取对理解序列数据很重要的动态变化和顺序关系。

循环在时间序列VAE中的作用

传统VAE通常处理固定大小的输入，并假设数据点之间是独立的。这在处理序列时是一个显著的局限，因为序列中元素的顺序以及它们随时间的变化关系是基础性的。例如，时间序列数据通常呈现：

• 可变长度：不同的时间序列实例可以有不同的持续时间。
• 时间依赖性：在给定时间步的值通常取决于之前的值。
• 长程模式：序列中相距较远的点之间可能存在重要的关联。

循环神经网络 (neural network)（RNN），如长短期记忆网络 (LSTM)（LSTMs）和门控循环单元 (GRU)（GRUs），专门用于处理这些序列特征。它们维护一个随时间演变的内部状态，使其在处理当前元素时能够“记住”序列中过去元素的信息。通过将RNN整合到VAE的编码器和解码器中，我们构建了一个RVAE，它能够从整个序列中学习有意义的表示并生成序列。

RVAE架构：序列的编码与解码

RVAE通常在编码器和解码器组件中都使用RNN。让我们分解一下典型的数据流：

1. 编码器：RNN（例如LSTM或GRU）逐步处理输入时间序列 $x = (x_1, x_2, \ldots, x_T)$。在每个时间步 $t$，RNN接收 $x_t$ 及其前一个隐藏状态 $h_{t-1}^{enc}$ 以生成新的隐藏状态 $h_t^{enc}$。最终隐藏状态 $h_T^{enc}$（或所有隐藏状态的一个函数）随后用于参数 (parameter)化近似后验分布 $q_\phi(z|x)$。该分布通常是高斯分布，因此编码器输出潜向量 (vector) $z$ 的均值 $\mu_z$ 和对数方差 $\log \sigma_z^2$。
2. 潜空间：潜向量 $z$ 使用重参数化技巧从 $q_\phi(z|x)$ 中采样得到：$z = \mu_z + \sigma_z \odot \epsilon$，其中 $\epsilon \sim \mathcal{N}(0, I)$。这个 $z$ 的作用是获取整个输入序列的压缩且整体的表示。
3. 解码器：另一个RNN接收潜向量 $z$ 作为输入（通常作为其初始隐藏状态，或在每个时间步与输入进行拼接）。然后，它逐时间步生成输出序列 $\hat{x} = (\hat{x}_1, \hat{x}_2, \ldots, \hat{x}_T)$。在每个生成时间步 $t$，解码器RNN根据其当前隐藏状态 $h_t^{dec}$（以及可能的前一个生成的元素 $\hat{x}_{t-1}$）生成 $\hat{x}_t$。

下图呈现了这种通用的RVAE架构：

RVAE使用RNN编码器处理输入序列以生成潜参数，采样潜向量 $z$，然后使用以 $z$ 为条件的RNN解码器重建或生成序列。

训练RVAE的目标函数仍是证据下界（ELBO），如第二章所述：

$$\mathcal{L}(x, \theta, \phi) = \mathbb{E}_{q_\phi(z|x)}[\log p_\theta(x|z)] - D_{KL}(q_\phi(z|x) || p(z))$$

主要区别在于 $p_\theta(x|z)$（重建项）和 $q_\phi(z|x)$（近似后验）的定义方式。

• 解码器定义了似然 $p_\theta(x|z)$。由于它是一个生成序列的RNN，这通常被自回归 (autoregressive)地分解为：$p_\theta(x|z) = \prod_{t=1}^T p_\theta(x_t | x_{<t}, z)$。每个 $p_\theta(x_t | x_{<t}, z)$ 是解码器RNN在时间步 $t$ 的输出。
• 编码器定义了 $q_\phi(z|x)$。如前所述，这通常是 $q_\phi(z | h_T^{enc})$，其中 $h_T^{enc}$ 是编码器RNN处理完整个输入序列 $x$ 后的最终隐藏状态。 先验 $p(z)$ 通常是标准多变量高斯分布，$p(z) = \mathcal{N}(0, I)$。

RVAE的重要设计考量

在为时间序列实现RVAE时，一些设计选择会显著影响性能：

• RNN单元类型：LSTM通常因其能捕获更长期的依赖关系而受到偏好，尽管GRU提供了更简单的架构，参数 (parameter)更少，并且对许多任务都有效。
• 编码器表示：虽然使用编码器RNN的最后隐藏状态 $h_T^{enc}$ 很常见，但替代策略包括对所有编码器隐藏状态 $\{h_1^{enc}, \ldots, h_T^{enc}\}$ 使用注意力机制 (attention mechanism)，以形成一个上下文 (context)向量 (vector)来参数化 $z$。如果重要信息分布在整个序列中而不是集中在末尾，这会有所帮助。
• 将 $z$ 输入解码器：潜向量 $z$ 可用于初始化解码器RNN的隐藏状态。另一种方式是，在每个时间步将 $z$ 与解码器的输入进行拼接，从而在整个生成过程中提供持续的条件信息。
• 教师强迫：在训练期间，解码器通常会使用“教师强迫”机制。这意味着在每个时间步 $t$，解码器接收真实的基准值 $x_t$ 作为输入（或用 $x_{t-1}$ 来预测 $x_t$），而不是其自己之前生成的样本 $\hat{x}_{t-1}$。这有助于训练的稳定，但可能导致训练和推断之间出现差异（当基准值不可用时）。计划采样有助于弥合这一差距。
• 处理可变长度：将序列填充到最大长度或使用分桶技术是处理小批量中可变长度序列的常见方法。应在损失函数 (loss function)中应用掩码，以忽略填充时间步的贡献。

训练动态与挑战

训练RVAE涉及对RNN组件进行时间反向传播 (backpropagation)（BPTT），并结合潜变量 $z$ 的重参数 (parameter)化技巧。一些常见的挑战包括：

• 梯度消失/爆炸：LSTM和GRU旨在减轻这些问题，但它们仍然可能发生，尤其是在非常长的序列中。梯度裁剪是一种标准应对措施。
• 后验坍塌：这是VAE中一个已知的问题，即潜变量 $z$ 被解码器忽略（$KL(q_\phi(z|x) || p(z)) \approx 0$），解码器主要根据其自回归 (autoregressive)特性生成输出。如果解码器过于强大（例如，非常深的LSTM），或者ELBO中的KL散度项在训练早期权重 (weight)过大，就可能发生这种情况。KL退火（逐渐增加KL项的权重）等技术会有所帮助。
• 计算开销：由于BPTT的序列特性，在长序列上训练RNN可能会计算密集且耗时。

RVAE在时间序列分析中的应用

RVAE为各种时间序列任务提供了多功能框架：

• 生成建模与预测：训练完成后，RVAE可以通过从先验 $p(z)$ 中采样 $z$ 并解码来生成新的合成时间序列。对于预测，给定时间序列的初始片段，可以对其进行编码，可能采样多个 $z$，然后解码以获得概率预测。
• 异常检测：RVAE难以重建（即重建误差高）或映射到潜空间中不寻常区域（在先验 $p(z)$ 下概率低）的时间序列可以被标记 (token)为异常。
• 学习平滑表示：潜空间 $z$ 提供输入时间序列的压缩且通常更平滑的表示。这些表示可用于聚类或时间序列分类等后续任务。
• 数据补全/去噪：RVAE可以被训练来从有噪声或不完整的序列中重建干净的序列，从而有效地填补缺失或去除噪声。

示例：建模正弦模式

设想一个RVAE，其在一个包含各种正弦波的数据集上进行训练，每个正弦波可能具有不同的频率、幅度和相位。RVAE将学习如何：

1. 编码：RNN编码器会处理一个输入正弦波并将其映射到潜向量 (vector) $z$。正弦波的不同属性（如频率和相位）可能会沿 $z$ 的不同维度被获取。
2. 解码：RNN解码器在给定 $z$ 的情况下，将生成一系列点，这些点构成一个与 $z$ 中编码属性对应的正弦波。

下面的图表显示了原始信号、RVAE对其的重建，以及通过从RVAE潜空间采样生成的新信号示例。

原始时间序列信号、RVAE对其的重建，以及从RVAE学习到的潜空间生成的新样本的对比。

优点与局限

RVAE为时间序列建模带来了显著的优势：

• 概率框架：它们提供了一种原则性的方法来建模不确定性并生成多样化的样本。
• 时间动态：RNN使其能够获取随时间变化的复杂依赖关系。
• 生成能力：它们可以合成看起来真实的时间序列数据。

然而，它们也有局限性：

• 训练复杂性：如前所述，训练可能很慢，并容易出现后验坍塌等问题。
• 长程依赖：尽管LSTM/GRU有所帮助，但非常长程的依赖关系（跨越数百或数千个时间步）仍然难以完美获取。我们接下来会讨论的注意力机制 (attention mechanism)可以进一步改善这一点。
• 可解释性：尽管 $z$ 提供了一种表示，但直接解释每个潜维度从时间序列中学到了什么可能很困难。

RVAE是VAE在序列数据方面的一种强大扩展。通过理解它们的架构、训练考量和应用范围，您可以有效地运用它们解决各种时间序列建模问题。本章稍后，我们还将查看RVAE如何与经典状态空间模型关联，从而为它们处理动态系统的能力提供另一个视角。