今年5月底舉行的台北國際電腦展期間,基於Nvidia自行研發處理器而成的多款伺服器,首度亮相,吸引全球目光,這些產品也標榜採用Nvidia最新推動的MGX參考設計架構。關於兼具這兩種特色的伺服器,我們先前介紹雲達科技推出的QuantaGrid S74G-2U,採用Grace Hopper融合式GPU,現在來看看另一家伺服器大廠美超微(Supermicro)的產品。
當時他們展出搭配Grace處理器的ARS-221GL-NR,以及搭配英特爾第四代Xeon Scalable處理器的SYS-221GE-NR,
到了10月底,他們一口氣推出6款採用MGX設計架構的伺服器,其中三款搭配Nvidia Grace Hopper融合式GPU,兩款搭配Nvidia Grace處理器,一款搭配英特爾第四代Xeon Scalable處理器。
與半年前推出這類產品的最大差異在於,Supermicro額外提供Grace Hopper伺服器,並且推出採用1U雙節點配置的Grace Hopper伺服器,以及Grace伺服器;而在Grace Hopper伺服器機型中,他們提供兩款內建液態冷卻的1U機型,我們這次介紹的ARS-111GL-DHNR-LCC,正是其中一款主打高運算密度特性的機型。
相較於x86平臺的1U雙節點伺服器,通常會區分為兩個可插拔的運算模組,新推出的ARS-111GL-DHNR-LCC,則是在機箱直接置入2張MGX架構的系統板G1SMH-G,外形大小遵循OCP訂定的DC-MHS DNO Type2標準,上面可安裝1張Nvidia GH200 Grace Hopper。
基本上,這張超級晶片內建1顆Grace處理器(72顆Arm Neoverse V2核心),以及1顆H100 GPU,系統記憶體包含系統板嵌入、對應至處理器的LPDDR5記憶體480 GB,以及GPU內建的HBM3記憶體96 GB,合計可提供576 GB記憶體。
在熱設計功耗(TDP)方面,由於GH200融合CPU與GPU的關係,最高可達1,000瓦,Supermicro在1U單節點的組態配置上,尚可提供空氣冷卻機型ARS-111GL-NHR,以及液態冷卻機型ARS-111GL-NHR-LCC的選擇,但對於散熱條件更加嚴苛的1U雙節點機型ARS-111GL-DHNR-LCC而言,若要在空間如此狹隘的機箱置入2張GH200長期運作、應付總發熱量2,000瓦TDP的狀態,似乎就只有導入液態冷卻技術一途。
根據Supermicro目前公布的產品照片來看,ARS-111GL-DHNR-LCC機箱內部的2張GH200,預設都已罩上直連晶片類型(Direct-to-Chip,D2C)的水冷板,並接上液冷管,一路延伸至機箱背部,接上液態冷卻機櫃,將熱量帶出伺服器之外,後續再將已經降溫的冷卻液帶回伺服器內部、抵達GH200,完成一次循環。
基於1U雙節點的配置與Supermicro提供的直連晶片液冷方案,他們認為,相關的營運成本可降低超過4成,同時能藉此增加運算密度,以及簡化大型語言模型與高效能運算應用的整櫃部署作業。
產品資訊
Supermicro ARS-111GL-DNHR-LCC
●原廠:Supermicro
●建議售價:廠商未提供
●機箱尺寸與節點數量:1U、雙節點
●單臺節點處理器:1顆Nvidia GH200 Grace Hopper Superchip
●單臺節點記憶體:CPU對應嵌入LPDDR5x記憶體,容量最大480 GB,GPU對應HBM3記憶體,容量為96 GB
●單臺節點硬碟容量:4臺E1.S規格NVMe固態硬碟、2張M.2規格NVMe固態硬碟
●單臺節點網路介面:1個GbE埠(Nvidia ConnectX-7或Bluefield-3 DPU)、1個GbE埠(IPMI埠)
●單臺節點擴充介面:可安裝2張全高全長PCIe 5.0 x16介面卡
●風扇:7臺
●電源供應器:2臺2700瓦(1+1備援)
【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】
熱門新聞
2024-11-05
2024-11-05
2024-11-04
2024-11-02
2024-11-05
2024-11-06