量子自然梯度下降

虽然前一节讨论的先进经典优化器中的标准梯度下降方法为变分量子算法（VQA）的训练提供了起始点，但它们基于一个隐含的假设：参数空间 $\theta$ 是欧几里得的。在这种标准方法中，更新规则 $\theta^{(t+1)} = \theta^{(t)} - \eta \nabla L(\theta^{(t)})$ 在参数空间中沿最陡峭的下降方向移动参数。然而，我们优化的实际目标通常与参数化量子线路（PQC）产生的量子态 $|\psi(\theta)\rangle$ 有关，并且从参数 $\theta$ 到状态 $|\psi(\theta)\rangle$ 的映射可以是高度非线性和非均匀的。参数的微小变化可能导致参数空间某些区域的量子态发生显著变化，而参数的较大变化在其他地方可能只引起微小的状态改变。

这一观察促使我们采用考虑量子态空间本身几何结构的方法，而不再局限于标准梯度下降。正如第1章所介绍的，信息几何提供了分析统计模型结构的方法，包括我们的PQC产生的量子态。量子自然梯度（QNG）运用这种几何观点进行优化。

量子态的几何学与Fubini-Study度量

QNG背后的主要思想不是在平坦的参数流形上进行梯度下降，而是在参数 $\theta$ 所引起的量子态的弯曲流形上进行。两个无限接近的量子态 $|\psi(\theta)\rangle$ 和 $|\psi(\theta + d\theta)\rangle$ 之间的“距离”由Fubini-Study度量衡量，在此背景下常被称为量子费雪信息矩阵（QFIM）。

令 $|\psi(\theta)\rangle$ 为由参数 $\theta = (\theta_1, \dots, \theta_M)$ 的PQC制备的状态。Fubini-Study度量张量 $g_{ij}(\theta)$ 捕获了由参数变化 $d\theta_i$ 和 $d\theta_j$ 引起的状态之间平方的无穷小距离。其分量表示为：

$$g_{ij}(\theta) = \text{Re}\left( \langle \partial_i \psi(\theta) | \partial_j \psi(\theta) \rangle - \langle \partial_i \psi(\theta) | \psi(\theta) \rangle \langle \psi(\theta) | \partial_j \psi(\theta) \rangle \right)$$

式中 $|\partial_i \psi(\theta)\rangle = \frac{\partial |\psi(\theta)\rangle}{\partial \theta_i}$。这个度量张量形成一个 $M \times M$ 对称正半定矩阵 $G(\theta)$，它定量表示当我们改变参数时量子态在局部如何变化。它有效地说明了量子态对参数扰动的敏感度。

量子自然梯度更新规则

量子自然梯度通过预乘Fubini-Study度量张量 $G(\theta)^{-1}$ 的逆矩阵来修改标准梯度 $\nabla L(\theta)$：

$$\theta^{(t+1)} = \theta^{(t)} - \eta \, G(\theta^{(t)})^{-1} \nabla L(\theta^{(t)})$$

这里，$\eta$ 是学习率。这个更新规则直接在量子态流形上执行最陡下降步骤。通过 $G^{-1}$ 纳入几何信息，QNG更新步骤对PQC的具体参数化保持不变。它根据每个参数实际改变量子态的程度，有效地重新调整梯度分量，在参数对状态影响很小的方向上迈出更大的步长，而在参数高度敏感的方向上迈出更小的步长。

QNG的优点

1. 优化收敛性： 通过根据状态空间的几何形状调整步长方向和大小，QNG与标准梯度下降相比，尤其是在参数到状态的映射高度非均匀时，通常能以更少的迭代次数收敛。
2. 参数化不变性： 状态空间中自然梯度步长的方向与PQC的参数化方式无关，有助于实现更一致的优化行为。
3. 跨越平坦区域： 在贫瘠高原区域，标准梯度会变得非常小，阻碍优化。尽管QNG并未从根本上解决贫瘠高原问题（该问题与梯度方差呈指数级消失有关），但QFIM中的几何信息有时可以帮助在标准梯度很小时，也能辨识状态空间中有意义的变化方向，可能有助于在某些优化环境中前进。

挑战与实际实施

使用QNG的主要挑战是Fubini-Study度量张量 $G(\theta)$ 的计算和求逆。

1. 计算成本： 计算 $G(\theta)$ 的所有 $M^2$ 个分量通常需要 $O(M^2)$ 次期望值估计。有多种方法可以估计分量 $g_{ij}(\theta)$，通常涉及评估由轻微扰动参数产生的状态之间的重叠，或使用与线性响应理论相关的技术，有时可以利用参数平移规则等梯度计算方法。
2. 矩阵求逆： 对 $M \times M$ 矩阵 $G(\theta)$ 求逆通常需要 $O(M^3)$ 的经典计算量，对于具有大量参数的PQC来说，这可能变得过于昂贵。
3. 奇异性与正则化： 矩阵 $G(\theta)$ 有时可能是奇异的或接近奇异的，特别是当参数冗余或对状态影响很小时。实际应用中，在求逆前通常会添加一个正则化项：$(G(\theta) + \lambda I)^{-1}$，其中 $\lambda$ 是一个小的正数（阻尼因子），$I$ 是单位矩阵。这可确保数值稳定性。

近似方法

由于计算开销，通常使用QFIM的近似方法：

• 块对角近似： 如果参数可以分组（例如，按PQC中的层分组），可以将 $G(\theta)$ 近似为块对角矩阵，假设不同块中的参数之间几何关联性可以忽略不计。这大幅降低了求逆成本。
• 对角近似： 一种更简单的方法是只计算并使用对角元素 $g_{ii}(\theta)$，将 $G(\theta)$ 视为对角矩阵。这相当于根据每个参数自身的敏感度单独重新调整其梯度更新，忽略参数之间的关联。计算成本更低但捕捉到的几何信息较少。

QNG的实际应用

PennyLane等量子软件库提供计算QFIM和实现QNG优化器的功能。然而，高效计算QFIM，尤其是在量子硬件上，仍然是一个活跃的研究方向。

总而言之，量子自然梯度是一种VQA优化技术，它包含了量子态空间的几何结构。尽管计算上比标准梯度下降更耗费资源，但通过采取本质上适应量子态对参数变化敏感度的步长，它具有更快收敛和更好优化的潜力。此方法的应用通常涉及几何精确度与计算成本之间的权衡，因此会采用各种近似方法。