趋近智
在明确了大型语言模型是什么以及它们的大小如何以参数衡量之后,我们现在来考虑运行它们所需的物理硬件。本章主要讨论计算机中必需的组成部分。
我们将了解中央处理器 (CPU)、系统内存 (RAM)、图形处理器 (GPU) 及其专用显存 (VRAM) 的作用。此外,还会简要介绍张量处理器 (TPUs)。了解每个组件的用途,对于理解大型语言模型的大小如何影响推理等任务的硬件选择非常重要,我们将在后续章节中介绍这些内容。
2.1 中央处理器 (CPU)
2.2 随机存取存储器 (RAM)
2.3 图形处理器 (GPU)
2.4 视频内存 (VRAM)
2.5 TPU简要介绍
© 2026 ApX Machine Learning用心打造