趋近智
生成式AI扩散模型入门
章节 1: 生成模型简介
生成模型概述
扩散模型的缘由
核心思路：噪声与去噪
概率框架概述
章节 2: 前向扩散过程
定义马尔可夫链
高斯噪声调度
每一步的数学表示
从中间步骤采样
前向过程的性质
实践：模拟正向扩散
章节 3: 逆向扩散过程
目标：逆转马尔可夫链
逼近逆向转移
使用神经网络参数化逆向过程
预测噪声分量
去噪步骤的数学表达
章节 4: 模型架构与训练
用于噪声预测的U-Net架构
整合时间步信息
定义训练目标
简化训练损失的推导
训练算法
动手实践：搭建U-Net
章节 5: 采样与生成过程
从噪声生成数据
DDPM采样算法
理解采样方差
加速采样方法介绍：DDIM
DDIM采样算法
DDPM与DDIM的权衡
动手实践：实现采样循环
章节 6: 扩散模型的条件生成
条件生成的动因
分类器引导
无分类器引导 (CFG)
实现分类器无关引导
文本条件要点
用于条件生成的架构修改
动手实践：应用引导
训练算法
这部分内容有帮助吗？
- Denoising Diffusion Probabilistic Models, Jonathan Ho, Augustin Saharia, William Chan, Chitwan Saharia, Jay Whang, Alex Ratner, Ruoxin Sang, Kevin Lin, Lihong Li, Jie Ren, Zhifeng Chen, Harrison Edwards, Andrew Brock, Prafulla Dhariwal, Alex Nichol, Heewon Kim, Fan Li, Yuval Alaluf, R. Tyler Mazaika, Sasha Sheng, Xiaoqing Ellen Tan, Adam Harley, Brian Li, Yang Song, Mohammad Norouzi, Tim Salimans, Alex Shmakov, Peter Henderson, Han Zhang, Irwan Bello, Ming-Hsuan Yang, Andrew Ng, Ian Goodfellow, Pieter Abbeel, and Durk Kingma, 2020 Advances in Neural Information Processing Systems, Vol. 33 (NeurIPS) DOI: 10.5591/978-1-57788-756-3-6840 - 这篇基础论文介绍了去噪扩散概率模型（DDPM），并详细阐述了本节中概述的噪声预测网络的训练算法。
- Denoising Diffusion Probabilistic Models (DDPM) Conceptual Guide, Hugging Face, 2024 (Hugging Face) - 这篇概念指南提供了去噪扩散概率模型（DDPM）训练循环的易懂解释，清晰地说明了本节讨论的算法，有助于实际理解。
- High-Resolution Image Synthesis with Latent Diffusion Models, Robin Rombach, Andreas Blattmann, Dominik Lorenz, Patrick Esser, and Björn Ommer, 2022 Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (IEEE) DOI: 10.1109/CVPR52688.2022.01042 - 这篇论文通过将核心DDPM训练范式应用于潜在空间，展示了其可扩展性和有效性，显著推动了使用扩散模型进行高分辨率图像生成。