趋近智
生成式AI扩散模型入门
章节 1: 生成模型简介
生成模型概述
扩散模型的缘由
核心思路：噪声与去噪
概率框架概述
章节 2: 前向扩散过程
定义马尔可夫链
高斯噪声调度
每一步的数学表示
从中间步骤采样
前向过程的性质
实践：模拟正向扩散
章节 3: 逆向扩散过程
目标：逆转马尔可夫链
逼近逆向转移
使用神经网络参数化逆向过程
预测噪声分量
去噪步骤的数学表达
章节 4: 模型架构与训练
用于噪声预测的U-Net架构
整合时间步信息
定义训练目标
简化训练损失的推导
训练算法
动手实践：搭建U-Net
章节 5: 采样与生成过程
从噪声生成数据
DDPM采样算法
理解采样方差
加速采样方法介绍：DDIM
DDIM采样算法
DDPM与DDIM的权衡
动手实践：实现采样循环
章节 6: 扩散模型的条件生成
条件生成的动因
分类器引导
无分类器引导 (CFG)
实现分类器无关引导
文本条件要点
用于条件生成的架构修改
动手实践：应用引导
前向过程的性质
这部分内容有帮助吗？
- Denoising Diffusion Probabilistic Models, Jonathan Ho, Ajay Jain, Pieter Abbeel, 2020 Advances in Neural Information Processing Systems, Vol. 33 DOI: 10.48550/arXiv.2006.11239 - 介绍去噪扩散概率模型的原始论文，详细阐述了前向加噪过程、其高斯特性以及封闭式边际分布的推导。
- Generative Modeling by Estimating Gradients of the Data Distribution, Yang Song, Stefano Ermon, 2019 Advances in Neural Information Processing Systems, Vol. 32 DOI: 10.48550/arXiv.1907.05600 - 介绍了基于分数的生成建模，这是一个通过逐步添加噪声并学习逆转该过程的相关框架。为生成扩散过程中高斯噪声的作用提供了背景。
- Score-Based Generative Modeling through Stochastic Differential Equations, Yang Song, Jascha Sohl-Dickstein, Diederik P. Kingma, Abhishek Kumar, Stefano Ermon, Ben Poole, 2021 International Conference on Learning Representations DOI: 10.48550/arXiv.2011.13456 - 在随机微分方程的框架下统一了去噪扩散概率模型和基于分数的生成模型，提供了对前向过程的普遍理解。