趋近智
变分自编码器(VAE)的性能取决于其近似后验 与真实后验 的匹配程度。尽管证据下界()提供了一个可计算的目标,但通常对简单的摊销推断网络 的依赖会限制模型的表达能力和此界限的紧密程度。本章侧重于改进VAE推断部分的方法。
我们将详细考察摊销变分推断,讨论其实用优势和固有假设,例如均值场近似。你将学习旨在克服这些限制的方法,包括用于获得更灵活后验形式的结构化变分推断,以及用于实现更紧密估计的重要性加权自编码器(IWAE)。我们还会介绍其他方法,如半摊销推断、辅助变量的使用以及对抗性变分贝叶斯(AVB),以进一步提高后验近似的准确度。到本章末尾,你将明白如何选择和应用这些高级推断策略,以构建具有改进性能特点的VAE。
4.1 摊销变分推断:优点与局限
4.2 平均场近似的局限性
4.3 VAE 中的结构化变分推断
4.4 重要性加权自编码器 (IWAE)
4.5 辅助变量与半分摊变分推断
4.6 使用隐式模型的变分推断
4.7 对抗变分贝叶斯 (AVB)
4.8 实践:实现IWAE和进阶推断