网络剪枝（结构化与非结构化）

这部分内容有帮助吗？

参考文献

Learning both Weights and Connections for Efficient Neural Networks, Song Han, Jeff Pool, John Tran, William J. Dally, 2015 Advances in Neural Information Processing Systems (NeurIPS), Vol. 28 (MIT Press) DOI: 10.55989/nips.2015.0003 - 介绍了基于幅度的非结构化剪枝，这是一种减少模型大小的核心技术。
The Lottery Ticket Hypothesis: Finding Sparse, Trainable Subnetworks, Jonathan Frankle, Michael Carbin, 2019 International Conference on Learning Representations (ICLR) DOI: 10.48550/arXiv.1803.03635 - 提出了“彩票假说”，解释了为什么深度网络可以通过迭代剪枝和微调，在不损失准确性的前提下被剪枝成高度稀疏的子网络。
What is the State of Neural Network Pruning?, Davis Blalock, Jose Javier Gonzalez Ortiz, Jonathan Frankle, John Guttag, 2020 Proceedings of Machine Learning and Systems, Vol. 2 DOI: 10.48550/arXiv.2003.03033 - 全面回顾了各种剪枝技术，包括结构化和非结构化方法，及其对效率的实际影响。
Pruning techniques - PyTorch 2.3 documentation, Torch Contributors, 2019 (Torch Contributors) - PyTorch剪枝工具的官方文档，展示了非结构化和结构化剪枝方法的实际实现。