去年台北國際電腦展之後,市面上出現融合式GPU伺服器,採用的運算平臺是Nvidia GH200 Grace Hopper Superchip,我們曾介紹2U單節點組態的雲達QuantaGrid S74G-2U,以及1U雙節點組態的Supermicro ARS-111GL系列,技嘉也推出2U單節點組態的XH23-VG0、2U雙節點組態的H223-V10、H263-V11,基本上,這些伺服器的共通點均是採用單張GH200超級晶片,從今年6月開始,市面上將出現搭配兩張GH200超級晶片的伺服器,這種組態先前稱為Dual GH200,後續改稱為GH200 NVL2。
而率先推出採用GH200 NVL2的伺服器,是HPE最新發表的ProLiant DL384 Gen12。這款產品源於該公司與Nvidia共同推出的產品組合策略Nvidia AI Computing by HPE,雙方合作開發的AI解決方案稱為HPE Private Cloud AI,涵蓋Nvidia的整合軟體平臺AI Enterprise與AI推論微服務NIM,Spectrum-X乙太網路架構,資料中心GPU產品H100 NVL、GH200 NVL2,以及HPE的儲存即服務GreenLake for File Storage、可搭載上述GPU的ProLiant伺服器,
這些伺服器包含既有的DL320 Gen11與DL380a Gen11,以及新發表的DL384 Gen12與DL380a Gen12,7月1日HPE在自家網站公布前者的細部技術規格,公開第1版的硬體配置,此舉也等於正式揭開HPE ProLiant Gen12世代伺服器的序幕。
DL384 Gen12採用2U尺寸機箱,系統遠端管理晶片仍為iLO6,而在運算平臺的部分,用戶可選擇搭配1或2張GH200超級晶片,而且,周邊裝置存取的配置相當對稱,HPE表示,每張超級晶片支援2臺EDSFF外形的NVMe固態硬碟,1張全高半寬的PCIe介面卡,以及2臺PCIe x4介面的NVMe固態硬碟,或1張PCIe x16的OCP 3.0外形介面卡,或1張全高半寬的PCIe介面卡(4個PCIe x16裝置)。
換言之,如果伺服器出廠預設值選擇搭配2張GH200超級晶片,就能擴充數量多一倍的固態硬碟與PCIe介面卡(8個PCIe x16裝置)。
而從CPU與GPU的規格而言,若採用GH200 NVL2的組態,DL384 Gen12所能運用的運算與記憶體資源,都有1:1比例的線性提升。例如,CPU內建的Arm Neoverse V2核心數量,從72顆擴展到144顆,DRAM記憶體LPDDR5X容量從480 GB擴展到960 GB,GPU搭配的HBM3e記憶體,容量也從144 GB擴展到288 GB,頻寬從4.9 TB/s擴展到9.8 TB/s。
若以記憶體容量80 GB、記憶體頻寬為3.35 TB/s的單個Nvidia H100為基準,本身內建2個Nvidia H100的GH200 NVL2,GPU記憶體容量增長至3.5倍,GPU記憶體頻寬增長至3倍。
而以整臺伺服器而言,GH200 NVL2配備的系統記憶體總量可達到1.2 TB,足以因應運算與記憶體密集型的工作負載,HPE表示,DL384 Gen12不僅適合需要巨量記憶體的大型語言模型AI推論,也能用於非AI的任務,像是大型模擬運算、電子設計自動化(EDA)、氣象預測。
至於CPU至GPU的I/O存取,由於這款超級晶片採用Nvidia NVLink-C2C,因此,對於DL384 Gen12而言,不論是在CPU與GPU之間,或是跨越同超級晶片的GPU與GPU之間,均可提供900 GB/s的頻寬,而在跨越不同超級晶片的CPU與CPU之間,則是600 GB/s的頻寬。
除了率先配備Nvidia GH200 NVL2是最大賣點,HPE ProLiant DL384 Gen12的硬碟儲存組態也相當獨特,用戶最多可在機箱最前緣安裝8臺E3.S外形的NVMe固態硬碟,目前能搭配1.6 TB到15.36 TB容量的款式,整台伺服器最大可提供122.8 TB固態儲存空間,機箱內部的前段也能安裝2臺M.2外形NVMe固態硬碟。
關於網路介面,DL384 Gen12可搭配乙太網路10/25GbE、100GbE規格,以及InfiniBand 200 Gb、400Gb規格的網路卡,或是資料處理器加速卡,例如,BlueField-3 DPU的B3220(乙太網路或InfiniBand 200Gb,全高半長),BlueField-3 SuperNIC的B3140H(乙太網路或InfiniBand 400Gb,半高半長)。
產品資訊
HPE ProLiant Compute DL384 Gen12
●原廠:HPE
●建議售價:廠商未提供
●機箱尺寸:2U
●處理器:1或2張Nvidia GH200 Grace Hopper Superchip(GH200或GH200 NVL2)
●記憶體:GH200:CPU對應嵌入LPDDR5x記憶體480 GB,GPU對應HBM3e記憶體144 GB;GH200 NVL2:CPU對應嵌入LPDDR5x記憶體,容量960 GB,GPU對應HBM3e記憶體,容量為288 GB
●硬碟容量:8臺E3.S外形NVMe固態硬碟
●擴充介面:PCIe 5.0 x16,4張全高半長介面卡,或2張半高半長介面卡與2張OCP 3.0介面卡
●電源供應器:4臺1800至2200瓦(N+N備援)
【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】
熱門新聞
2024-09-29
2024-10-01
2024-10-02
2024-10-03
2024-10-01
2024-10-01
2024-10-01