扩散模型推理中的瓶颈

这部分内容有帮助吗？

参考文献

Denoising Diffusion Probabilistic Models, Jonathan Ho, Ajay Jain, and Pieter Abbeel, 2020 Advances in Neural Information Processing Systems (NeurIPS) DOI: 10.48550/arXiv.2006.11239 - 介绍了去噪扩散概率模型的开创性论文，阐述了构成扩散模型推理基础的迭代优化过程。
Denoising Diffusion Implicit Models, Jiaming Song, Chenlin Meng, and Stefano Ermon, 2020 International Conference on Learning Representations (ICLR) DOI: 10.48550/arXiv.2010.02502 - 介绍了去噪扩散隐式模型（DDIMs），提供了一种比DDPMs更快、更高效的采样策略，直接解决了采样步数过多的瓶颈问题。
U-Net: Convolutional Networks for Biomedical Image Segmentation, Olaf Ronneberger, Philipp Fischer, and Thomas Brox, 2015 Medical Image Computing and Computer-Assisted Intervention (MICCAI), Vol. 9351 (Springer, Cham) DOI: 10.1007/978-3-319-24574-4_28 - 提出了U-Net架构，它是扩散模型中反复评估的核心神经网络，也是推理过程中计算成本的主要来源。
High-Resolution Image Synthesis with Latent Diffusion Models, Robin Rombach, Andreas Blattmann, Dominik Lorenz, Patrick Esser, Björn Ommer, 2022 Conference on Computer Vision and Pattern Recognition (CVPR) DOI: 10.48550/arXiv.2112.10752 - 介绍了像Stable Diffusion这样的潜在扩散模型（LDMs），它们在压缩的潜在空间中运行以实现高分辨率图像生成，展示了现代扩散模型的计算规模。
Progressive Distillation for Fast Sampling of Diffusion Models, Tim Salimans and Jonathan Ho, 2022 International Conference on Learning Representations (ICLR) DOI: 10.48550/arXiv.2202.00512 - 提出了一种蒸馏方法，使扩散模型能够以显著减少的采样步数生成高质量样本，直接解决了重复U-Net评估的瓶颈问题。