前置4張雙寬或8張單寬GPU，HPE新GPU伺服器亮相

今年生成式AI崛起，資料中心GPU成為眾多廠商與企業爭相採購的產品，其中又以Nvidia H100最為搶手，市面上，可搭配4臺或8臺SXM外形H100的伺服器機型受到熱烈關注，Dell、Supermicro、雲達、技嘉等國際及臺灣大廠的相關產品接連登場，HPE卻顯得異常低調，遲遲未看到他們加入推廣這類伺服器的戰局。

從Nvidia公布的合格系統目錄當中，我們找到HPE目前有兩款伺服器可搭配SXM外形H100，分別是採用HGX H100 4-GPU的Cray XD665，以及HGX H100 8-GPU的Cray XD670，而在10月中舉行的HPE Discover More Taipei 2023大會期間，原本我們以為會看到上述產品亮相，沒想到現場用來展示該公司AI創新應用的伺服器，卻是另一款可搭配PCIe版本H100 GPU的機型，ProLiant DL380a Gen11。

這是專門針對執行GPU運算密集型工作負載的產品，可支援AI、深度學習的訓練與推論、智慧影像分析（IVA）、側重影像處理的虛擬桌面基礎架構（VDI）等多種應用，於今年3月推出，晚於ProLiant Gen11其他機型。

就機型名稱、外形、整體配置而言，DL380a Gen11與DL380 Gen11大致相似，例如，均搭配2U尺寸機箱、2路配置，但細部規格有明顯差異。例如，處理器採用英特爾第四代Xeon Scalable，最高時脈均為3.7 GHz，但DL380 Gen11可搭配16到60核心的CPU，DL380a Gen11則是搭配8到56核心的CPU；記憶體方面，同樣支援DDR5-4800，DL380 Gen11內建32個插槽，最大可安裝到8 TB（單支記憶體256 GB），DL380a Gen11則是24個，最大可安裝到3 TB（單支記憶體128 GB）。

關於硬碟儲存方面的差異更大，DL380 Gen11前側可設置8或12臺3.5吋傳統硬碟或固態硬碟，或是24臺2.5吋傳統硬碟或固態硬碟，背部可選裝6臺2.5吋傳統硬碟或固態硬碟，存取介面涵蓋SATA、SAS、NVMe；DL380a Gen11只支援NVMe固態硬碟，前側目前可設置8臺2.5吋固態硬碟，或是8臺E3.S外形固態硬碟。

在PCIe擴充部分，DL380 Gen11最多可安裝8張全高全長介面卡，當中能搭配2張Nvidia A100 80GB PCIe或A16 64GB PCIe；而稍晚推出、主打GPU應用的DL380a Gen11，可安裝4張全高半長介面卡，目前能搭配4張雙寬尺寸的GPU，像是Nvidia的A100 80GB PCIe、H100 80GB PCIe、L40 48GB PCIe，以及Intel的Data Center GPU Max 1100，預計未來提供安裝8張單寬尺寸GPU的選項。

值得注意的是，多數伺服器若要搭配PCIe板卡形式的GPU，通常會將其放置在機箱後半段，DL380 Gen11就是如此，但DL380a Gen11將GPU設置在機箱前段的左右兩側。

事實上，這並非HPE ProLiant Gen11唯一這樣設置GPU的機型。採用AMD第四代EPYC處理器的機型幾乎都採用這樣的設計，像是DL325 Gen11、DL345 Gen11、DL385 Gen11，至於Intel第四代Xeon Scalable處理器的機型，有DL320 Gen11，以及這款DL380a Gen11。

為何上述ProLiant Gen11機型採用這樣的GPU配置？HPE表示，當GPU能夠放置在機箱前段，帶來兩個好處，一是不會受到機箱後段PCIe橫向擴充卡的空間限制，影響可安裝的GPU數量，另一是機箱前段的進氣溫度較低，有助於GPU散熱。而在《HPE ProLiant Gen11 AI optimized solutions》這份白皮書則指出，這麼做可改善氣流、增加GPU密度，並且替每張GPU提供專屬電源供應，延長GPU運作時間。

除此之外，DL380a Gen11還有一個過去伺服器搭配多張PCIe板卡GPU較少有的配置，那就是提供GPU橋接器，可提升GPU之間的雙向存取能力，進而增加GPU運算吞吐量、實現跨GPU的記憶體共享，改善效能與資源利用率。

HPE在3月初步推出這款GPU伺服器機型時，就提供名為「Ampere 2-way 2-slot Bridge」的設置，可透過NVLink介面連接兩張PCIe板卡形式的A100或H100，每一對串連可搭配3張GPU。而HPE在10月最新公布的DL380a Gen11第5版規格，宣布開始支援Intel的Data Center GPU Max 1100之餘，也提供「Intel XeLink x2 Bridge」的配置，可連接2張這款GPU。

產品資訊

HPE ProLiant DL380a Gen11
●原廠：HPE
●建議售價：廠商未提供
●機箱尺寸：2U
●處理器：2顆，第四代Intel Xeon Scalable系列（最多56顆核心）
●記憶體：24個DDR5-4800，插滿128 GB，可達到3 TB
●儲存配置：8臺2.5吋NVMe固態硬碟或E3.S外形NVMe固態硬碟
●I/O擴充介面：4個PCIe 5.0 x16（全高半長）
●電源供應器：4臺1600瓦或1800至2200瓦
●GPU選擇：Nvidia H100 80 GB PCIe、Nvidia L40、Intel Data Center GPU Max 1100

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】