构建裸机AI服务器

将精心挑选的组件转换为可用的服务器，需要一个系统化的组装和配置流程。虽然与组装一台标准台式电脑类似，但构建裸机AI服务器涉及处理高功率GPU、确保最大数据吞吐量 (throughput)以及配置系统以使其在持续高负载下保持稳定的特别考量。这里将介绍一些主要步骤，从物理组装到初始软件设置。

兼容性预检

在您拿起螺丝刀之前，进行最后的兼容性检查。此处出错可能导致购买错误的零件，或者发现组件在机箱内发生物理干涉。

• 主板和CPU： 确认CPU插槽类型（例如LGA 1700、AM5）与主板匹配。
• 主板和GPU： 这是一个常见错误点。确认主板x16 PCIe插槽的物理间距是否能容纳您的GPU宽度。许多高性能GPU会占用三甚至四个插槽，这意味着一个有四个x16插槽的主板可能只能安装两张这样的卡。
• 机箱和组件： 检查机箱规格，了解最大GPU长度和CPU散热器高度。如果您使用的是一体式液冷，请确保机箱有适合所选散热器尺寸（例如240mm、360mm）的安装点。
• 电源（PSU）： 检查总瓦数。计算电源上可用的PCIe 8针或12VHPWR电源连接器数量，并与您的GPU需求进行比较。一台有四个GPU，每个GPU需要两个8针连接器的服务器，将需要电源提供八个专用连接器。

组装流程

组装过程应遵循逻辑顺序，以避免为了给其他组件腾出空间而重新卸载已安装的组件。以下流程列出了AI服务器构建中的重要阶段。

裸机AI服务器的典型组装和配置顺序。

对于AI服务器来说，这个过程中最需细心处理的部分是GPU安装和随后的线缆管理。安装多个GPU时，将它们逐一牢固地插入PCIe插槽。如果使用NVLink，请在GPU固定好后连接桥接器。特别注意线缆布线。糟糕的线缆管理不仅仅是美观问题；它会严重阻碍气流，这对于防止GPU在长时间训练中出现热节流非常重要。

必要的BIOS/UEFI配置

在安装操作系统之前，您必须配置主板BIOS/UEFI中的一些设置。这些对于多GPU系统正常运行必不可少。

• 启用4G以上解码（Above 4G Decoding）： 此设置允许64位操作系统正确映射多GPU所需的大内存地址空间。没有它，系统可能无法启动或只识别单个GPU。
• 启用可调整大小的BAR（Base Address Register）： 作为一项相关功能，ReBAR允许CPU一次性访问整个GPU显存（VRAM），而不是分成更小的256MB块。这可以在某些工作负载中提升性能。
• 设置PCIe链路速度： 找到PCIe插槽的设置，确保它们没有被设置为较低的代数（例如，当插槽和GPU都支持“Gen 4.0”时设置为“Gen 3.0”）。强制使用最高支持的速度可以避免在CPU和GPU之间产生不必要的数据瓶颈。

操作系统和驱动安装

一个稳定、精简的操作系统是最佳的根基。Ubuntu Server等Linux发行版的长期支持（LTS）版本是常见且可靠的选择。一旦操作系统安装完成，最重要的一步软件设置是安装专有的NVIDIA驱动。这些驱动包含CUDA工具包，这是机器学习 (machine learning)框架使用GPU的必要条件。

安装驱动后，您可以验证系统是否正确识别了所有硬件。主要工具是NVIDIA系统管理界面。打开终端并运行以下命令：

nvidia-smi

成功的构建将生成类似这样的输出，确认所有GPU都已检测到，温度正常，并已准备好工作。

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 515.65.01    Driver Version: 515.65.01    CUDA Version: 11.7     |
|-------------------------------+----------------------+----------------------+
| GPU  名称        持久模式| 总线ID        显示器A | 易失性非ECC |
| 风扇 温度 性能 功耗:使用/上限|         显存使用 | GPU利用率  计算模式 |
|                               |                      |               MIG模式 |
|===============================+======================+======================|
|   0  NVIDIA RTX 3090      On   | 00000000:01:00.0 Off |                  N/A |
| 30%   35C    P8    23W / 350W |      2MiB / 24576MiB |      0%      Default |
|                               |                      |                  N/A |
|-------------------------------+----------------------+----------------------+
|   1  NVIDIA RTX 3090      On   | 00000000:21:00.0 Off |                  N/A |
| 30%   34C    P8    21W / 350W |      2MiB / 24576MiB |      0%      Default |
|                               |                      |                  N/A |
+-----------------------------------------------------------------------------+

在此列表中看到所有已安装的GPU，是对硬件构建成功的最终确认。这台机器现在就像一张白纸，已为软件堆栈（包括Docker和Kubernetes）做好准备，您将用它来运行机器学习工作负载。