3U 8卡：对AI推理服务器意味着什么？

正文

请到「今天看啥」查看全文

上面照片，我们看到的是服务器前窗。数一数 PCIe I/O 金属挡片的物理位置，一共是 18 个——左边留出了一个存储盘位区域（这台配置是 4 个 E3.S NVMe SSD ）。具体支持的扩展卡数量请往下看。

这台服务器机型是 Lenovo SR675 V3 ， 3U 机架式，最多支持 2 颗 AMD EPYC 9004/9005 系列处理器。 我 曾经 写过 ，因为都是 SP5 插槽，所以改换 BIOS 就能用同样主板适配 2 代 CPU 。

NVIDIA HGX H200 或 H100 4-GPU SXM 模组的支持，并不是我想谈的重点，因为如果采用冷板式液冷， 2U 服务器就能支持这些。而我在《 风冷、液冷GPU 服务器密度提升 - PowerEdge 17G 整机架预览 》中也提到， 8-GPU SXM 模组可以适配在 6U 风冷和 4U 液冷机型中。

而 8 个双宽 600W GPU 的支持，又让我想起了 NVIDIA 的 H200 NVL ；既然是标准 PCIe 卡，联想资料中也写了支持 AMD Instinct™ MI 系列加速器。我之前提到过 D 厂商对应的机型，是 4U 的 XE7740 和 XE7745 。

PCIe Switch 与 GPU 直通 CPU 的区别

支持 GPU 的 8 个 PCIe x16 插槽，分布在 2 块 PCIe 交换板上；最右边还有块“ PCB 小板”， 2 个单宽 PCIe 槽位看上去是通过 Retimer 芯片直通连接的。

SR675 V3 这机箱长度不短。为了照顾 PCIe 板卡的散热，把该区域放在了机箱的最前端。我们可以看到 2 颗散热片下面的应该是 PCIe Switch 芯片。

SR675 V3 也像不少GPU服务器那样提供了 PCIe 直通 CPU 的选项 ，此时是最多 14 个 PCIe 插槽，其中 8 个双宽 GPU 槽位支持 x8 Lane 宽度。

从表面上看，这款 3U 机箱只有 5 个系统风扇 ，但尺寸却是 80cm （ 2U 服务器一般是 60cm 风扇）。 Nidec 这个风扇标称的 12V

请到「今天看啥」查看全文