趋近智

图形处理器 (GPU)

这部分内容有帮助吗？

参考文献

CUDA C++ Programming Guide, NVIDIA, 2024 (NVIDIA) - 这份官方指南详细介绍了CUDA架构及其并行编程模型，这对于理解GPU如何同时执行众多简单操作至关重要。
ImageNet Classification with Deep Convolutional Neural Networks, Alex Krizhevsky, Ilya Sutskever, and Geoffrey E. Hinton, 2012 Advances in Neural Information Processing Systems (NIPS 2012), Vol. 25 (Curran Associates, Inc.) - 一篇里程碑式的论文，展示了GPU在加速深度学习模型方面的有效性，对GPU在AI研究和应用中的普及做出了重大贡献。
LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale, Tim Dettmers, Mike Lewis, Younes Belkada, and Luke Zettlemoyer, 2022 NeurIPS 2022 DOI: 10.48550/arXiv.2208.07339 - 这篇研究论文讨论了在GPU上运行大型语言模型的实际挑战，并探讨了8位矩阵乘法等技术以提高效率，这与LLM的GPU利用率直接相关。
Computer Architecture: A Quantitative Approach, John L. Hennessy and David A. Patterson, 2017 (Elsevier) - 一本备受推崇的教科书，涵盖了计算机体系结构的基本原理，包括CPU和GPU设计的详细比较，以及并行处理对于不同工作负载的优势。