趋近智
生成式AI扩散模型入门
章节 1: 生成模型简介
生成模型概述
扩散模型的缘由
核心思路：噪声与去噪
概率框架概述
章节 2: 前向扩散过程
定义马尔可夫链
高斯噪声调度
每一步的数学表示
从中间步骤采样
前向过程的性质
实践：模拟正向扩散
章节 3: 逆向扩散过程
目标：逆转马尔可夫链
逼近逆向转移
使用神经网络参数化逆向过程
预测噪声分量
去噪步骤的数学表达
章节 4: 模型架构与训练
用于噪声预测的U-Net架构
整合时间步信息
定义训练目标
简化训练损失的推导
训练算法
动手实践：搭建U-Net
章节 5: 采样与生成过程
从噪声生成数据
DDPM采样算法
理解采样方差
加速采样方法介绍：DDIM
DDIM采样算法
DDPM与DDIM的权衡
动手实践：实现采样循环
章节 6: 扩散模型的条件生成
条件生成的动因
分类器引导
无分类器引导 (CFG)
实现分类器无关引导
文本条件要点
用于条件生成的架构修改
动手实践：应用引导
整合时间步信息
这部分内容有帮助吗？
- Attention Is All You Need, Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia Polosukhin, 2017 Advances in Neural Information Processing Systems (NeurIPS) DOI: 10.48550/arXiv.1706.03762 - 这篇奠基性论文介绍了 Transformer 架构和正弦位置嵌入的概念，这些概念被直接用于扩散模型中的时间步条件化。
- Denoising Diffusion Probabilistic Models, Jonathan Ho, Ajay Jain, Pieter Abbeel, 2020 Advances in Neural Information Processing Systems (NeurIPS) DOI: 10.48550/arXiv.2006.11239 - 这篇开创性论文介绍了去噪扩散概率模型 (DDPM) 框架，详细阐述了用于噪声预测的 U-Net 架构以及通过嵌入整合时间步信息的方法。
- U-Net Architecture and Timestep Embeddings in Diffusers, Hugging Face, 2023 (Hugging Face) - 此文档部分详细介绍了扩散模型中使用的 U-Net 架构，并具体阐述了如何创建时间步嵌入以及将其集成以条件化 U-Net 的噪声预测。