趋近智
在确立了各类自编码器的架构及理论基础之后,从经典设计到变分模型和对抗模型,我们现在将侧重于它们在实践中的部署与完善。本章考察常见的应用场景,自编码器在这些场景中展现出独特优势,并讨论有效训练这些模型所需的方法。
您将研究自编码器如何应用于异常检测等任务,采用重构误差作为重要衡量标准。我们还将介绍它们在非线性降维、数据压缩中的应用,以及作为大型深度学习 (deep learning)系统中无监督预训练 (pre-training)的一种方式。此外,还将讨论图像去噪等应用。
成功运用自编码器通常需要细致的训练流程。因此,本章也涵盖适用于这些网络的先进优化策略、训练期间调整学习率以获得更好收敛的方法,以及超参数 (parameter) (hyperparameter)调整的系统化方法。掌握这些技术对于最小化所选损失函数 (loss function)(通常表示为 )并达到实际中可靠的表现来说常常是必不可少的。我们将以实践例子作结,例如构建一个基于自编码器的异常检测系统。
7.1 自编码器用于异常检测
7.2 降维和数据压缩的应用
7.3 自动编码器用于深度网络预训练
7.4 图像去噪和修补应用
7.5 序列到序列自编码器概述
7.6 高级优化算法
7.7 学习率计划与调整
7.8 超参数调优策略
7.9 使用自编码器进行异常检测:实践