趋近智
生成式AI扩散模型入门
章节 1: 生成模型简介
生成模型概述
扩散模型的缘由
核心思路：噪声与去噪
概率框架概述
章节 2: 前向扩散过程
定义马尔可夫链
高斯噪声调度
每一步的数学表示
从中间步骤采样
前向过程的性质
实践：模拟正向扩散
章节 3: 逆向扩散过程
目标：逆转马尔可夫链
逼近逆向转移
使用神经网络参数化逆向过程
预测噪声分量
去噪步骤的数学表达
章节 4: 模型架构与训练
用于噪声预测的U-Net架构
整合时间步信息
定义训练目标
简化训练损失的推导
训练算法
动手实践：搭建U-Net
章节 5: 采样与生成过程
从噪声生成数据
DDPM采样算法
理解采样方差
加速采样方法介绍：DDIM
DDIM采样算法
DDPM与DDIM的权衡
动手实践：实现采样循环
章节 6: 扩散模型的条件生成
条件生成的动因
分类器引导
无分类器引导 (CFG)
实现分类器无关引导
文本条件要点
用于条件生成的架构修改
动手实践：应用引导
概率框架概述
这部分内容有帮助吗？
- Denoising Diffusion Probabilistic Models, Jonathan Ho, Ajay Jain, Pieter Abbeel, 2020 Advances in Neural Information Processing Systems DOI: 10.48550/arXiv.2006.11239 - 介绍了去噪扩散概率模型（DDPM）框架，详细阐述了前向加噪和逆向去噪的马尔可夫链。
- Score-Based Generative Modeling through Stochastic Differential Equations, Yang Song, Jascha Sohl-Dickstein, Diederik P. Kingma, Abhishek Kumar, Stefano Ermon, Ben Poole, 2021 International Conference on Learning Representations DOI: 10.48550/arXiv.2011.13456 - 将去噪扩散概率模型（DDPM）和基于分数的生成模型通过随机微分方程统一在一个共同框架下。
- Generative Modeling by Estimating Gradients of the Data Distribution, Yang Song, Stefano Ermon, 2019 Advances in Neural Information Processing Systems DOI: 10.48550/arXiv.1907.05600 - 介绍了基于分数的生成建模，为构建在逆转固定噪声过程之上的生成模型提供了补充视角。
- Deep Learning, Ian Goodfellow, Yoshua Bengio, Aaron Courville, 2016 (MIT Press) - 第20章关于深度生成模型，提供了概率生成模型、变分推断和基于似然的训练的基本概念。