趋近智
高级生成对抗网络
章节 1: 重温GAN基本原理
生成器-判别器架构
最小最大目标函数
常见的训练不稳定现象
原版GAN的局限性
深度卷积GANs (DCGANs) 回顾
章节 2: 高级GAN架构
渐进式生成对抗网络 (ProGAN)
基于风格的生成器架构 (StyleGAN)
StyleGAN2 改进
大规模GAN训练 (BigGAN)
GAN中的自注意力机制
非配对图像到图像转换 (CycleGAN)
StyleGAN 组件的动手实现
章节 3: GAN训练的动态与稳定性
不收敛的难题
模式坍塌：成因与后果
其他散度：Wasserstein 距离
WGAN 中的权重剪裁
梯度惩罚 (WGAN-GP)
谱范数归一化
双时间尺度更新规则 (TTUR)
相对论生成对抗网络
WGAN-GP 的实现：实践
章节 4: 条件式与可控生成
条件式GAN（cGAN）介绍
cGAN的架构
信息最大化GAN (InfoGAN)
StackGAN：文本到图像生成
通过潜在空间操作控制属性
解耦度量与挑战
构建条件生成对抗网络：实操练习
章节 5: 生成对抗网络的定量与定性评估
评估生成模型的挑战
定性评估：视觉图灵测试
Inception Score (IS)：计算方法与局限性
Fréchet Inception 距离 (FID): 公式
解读 FID 分数
分布的准确率与召回率
感知路径长度 (PPL)
FID分数计算：实践
章节 6: GANs：不只生成图像
离散数据带来的难题：文本生成
强化学习方法 (SeqGAN, RankGAN)
连续近似（Gumbel-Softmax）
基于GAN的音频合成 (WaveGAN, SpecGAN)
视频生成与预测
三维数据生成 (点云, 网格)
使用GANs生成图
章节 7: 实施、优化与工具应用
选择深度学习框架
高级优化器 (AdamW, Lookahead)
超参数调整策略
权重初始化技术
调试不稳定的GAN训练
混合精度训练
大型GAN的分布式训练策略
性能分析与优化
优化GAN实现：实践
超参数调整策略
这部分内容有帮助吗？
- Random Search for Hyper-Parameter Optimization, James Bergstra and Yoshua Bengio, 2012 Journal of Machine Learning Research, Vol. 13 (Microtome Publishing) DOI: 10.1622/jmlr.v13.12-140 - 这篇原创论文介绍了随机搜索，作为网格搜索在超参数优化方面更高效的替代方法。
- GANs Trained by a Two Time-Scale Update Rule Converge to a Local Nash Equilibrium, Martin Heusel, Hubert Ramsauer, Thomas Unterthiner, Bernhard Nessler, and Sepp Hochreiter, 2017 Advances in Neural Information Processing Systems (NeurIPS) 30 (Curran Associates, Inc.) - 介绍了用于稳定GAN训练的双时间尺度更新规则（TTUR）以及用于评估GAN样本质量的Fréchet Inception距离（FID）。
- Population Based Training of Neural Networks, Max Jaderberg, Valentin Dalibard, Simon Osindero, Wojciech M. Czarnecki, Jeff Donahue, Ali Razavi, Oriol Vinyals, Tim Green, Iain Dunning, Karen Simonyan, Chrisantha Fernando, Koray Kavukcuoglu, 2017 arXiv preprint arXiv:1711.09846 DOI: 10.48550/arXiv.1711.09846 - 提出了基于种群的训练（PBT），这是一种通过并行训练一组模型来结合超参数优化和模型训练的方法。
- Improved Training of Wasserstein GANs, Ishaan Gulrajani, Faruk Ahmed, Martin Arjovsky, Vincent Dumoulin, Aaron Courville, 2017 Advances in Neural Information Processing Systems, Vol. 30 (NeurIPS) DOI: 10.5555/3295222.3295327 - 介绍了WGAN-GP公式，该公式使用梯度惩罚来强制执行Lipschitz约束，显著提高了GAN训练的稳定性。
- Taking the human out of the loop: A review of Bayesian optimization, Babak Shahriari, Kevin Swersky, Ziyu Wang, Ryan P. Adams, and Nando de Freitas, 2016 Proceedings of the IEEE, Vol. 104 (IEEE) DOI: 10.1109/JPROC.2015.2494218 - 贝叶斯优化的全面综述，解释了其原理、组成部分以及在优化昂贵黑盒函数方面的应用。