趋近智
生成式AI扩散模型入门
章节 1: 生成模型简介
生成模型概述
扩散模型的缘由
核心思路：噪声与去噪
概率框架概述
章节 2: 前向扩散过程
定义马尔可夫链
高斯噪声调度
每一步的数学表示
从中间步骤采样
前向过程的性质
实践：模拟正向扩散
章节 3: 逆向扩散过程
目标：逆转马尔可夫链
逼近逆向转移
使用神经网络参数化逆向过程
预测噪声分量
去噪步骤的数学表达
章节 4: 模型架构与训练
用于噪声预测的U-Net架构
整合时间步信息
定义训练目标
简化训练损失的推导
训练算法
动手实践：搭建U-Net
章节 5: 采样与生成过程
从噪声生成数据
DDPM采样算法
理解采样方差
加速采样方法介绍：DDIM
DDIM采样算法
DDPM与DDIM的权衡
动手实践：实现采样循环
章节 6: 扩散模型的条件生成
条件生成的动因
分类器引导
无分类器引导 (CFG)
实现分类器无关引导
文本条件要点
用于条件生成的架构修改
动手实践：应用引导
逼近逆向转移
这部分内容有帮助吗？
- Deep Unsupervised Learning using Nonequilibrium Thermodynamics, Jascha Sohl-Dickstein, Eric A. Weiss, Niru Maheswaranathan, Surya Ganguli, 2015 Proceedings of the 32nd International Conference on Machine Learning (ICML) DOI: 10.48550/arXiv.1503.03585 - 介绍了扩散概率模型，为前向和反向扩散过程奠定了数学基础。
- Score-Based Generative Modeling through Stochastic Differential Equations, Yang Song, Jascha Sohl-Dickstein, Diederik P. Kingma, Abhishek Kumar, Stefano Ermon, Ben Poole, 2020 International Conference on Learning Representations (ICLR) DOI: 10.48550/arXiv.2011.13456 - 统一了基于分数的生成模型与扩散模型，为通过随机微分方程理解反向过程提供了一个理论框架。