用液冷應付2千瓦TDP，美超微推出1U雙節點融合GPU伺服器

今年5月底舉行的台北國際電腦展期間，基於Nvidia自行研發處理器而成的多款伺服器，首度亮相，吸引全球目光，這些產品也標榜採用Nvidia最新推動的MGX參考設計架構。關於兼具這兩種特色的伺服器，我們先前介紹雲達科技推出的QuantaGrid S74G-2U，採用Grace Hopper融合式GPU，現在來看看另一家伺服器大廠美超微（Supermicro）的產品。

當時他們展出搭配Grace處理器的ARS-221GL-NR，以及搭配英特爾第四代Xeon Scalable處理器的SYS-221GE-NR，

到了10月底，他們一口氣推出6款採用MGX設計架構的伺服器，其中三款搭配Nvidia Grace Hopper融合式GPU，兩款搭配Nvidia Grace處理器，一款搭配英特爾第四代Xeon Scalable處理器。

與半年前推出這類產品的最大差異在於，Supermicro額外提供Grace Hopper伺服器，並且推出採用1U雙節點配置的Grace Hopper伺服器，以及Grace伺服器；而在Grace Hopper伺服器機型中，他們提供兩款內建液態冷卻的1U機型，我們這次介紹的ARS-111GL-DHNR-LCC，正是其中一款主打高運算密度特性的機型。

相較於x86平臺的1U雙節點伺服器，通常會區分為兩個可插拔的運算模組，新推出的ARS-111GL-DHNR-LCC，則是在機箱直接置入2張MGX架構的系統板G1SMH-G，外形大小遵循OCP訂定的DC-MHS DNO Type2標準，上面可安裝1張Nvidia GH200 Grace Hopper。

基本上，這張超級晶片內建1顆Grace處理器（72顆Arm Neoverse V2核心），以及1顆H100 GPU，系統記憶體包含系統板嵌入、對應至處理器的LPDDR5記憶體480 GB，以及GPU內建的HBM3記憶體96 GB，合計可提供576 GB記憶體。

在熱設計功耗（TDP）方面，由於GH200融合CPU與GPU的關係，最高可達1,000瓦，Supermicro在1U單節點的組態配置上，尚可提供空氣冷卻機型ARS-111GL-NHR，以及液態冷卻機型ARS-111GL-NHR-LCC的選擇，但對於散熱條件更加嚴苛的1U雙節點機型ARS-111GL-DHNR-LCC而言，若要在空間如此狹隘的機箱置入2張GH200長期運作、應付總發熱量2,000瓦TDP的狀態，似乎就更只有導入液態冷卻技術一途。

根據Supermicro目前公布的產品照片來看，ARS-111GL-DHNR-LCC機箱內部的2張GH200，預設都已罩上直連晶片類型（Direct-to-Chip，D2C）的水冷板，並接上液冷管，一路延伸至機箱背部，接上液態冷卻機櫃，將熱量帶出伺服器之外，後續再將已經降溫的冷卻液帶回伺服器內部、抵達GH200，完成一次循環。

基於1U雙節點的配置與Supermicro提供的直連晶片液冷方案，他們認為，相關的營運成本可降低超過4成，同時能藉此增加運算密度，以及簡化大型語言模型與高效能運算應用的整櫃部署作業。

產品資訊

Supermicro ARS-111GL-DNHR-LCC
●原廠：Supermicro
●建議售價：廠商未提供
●機箱尺寸與節點數量：1U、雙節點
●單臺節點處理器：1顆Nvidia GH200 Grace Hopper Superchip
●單臺節點記憶體：CPU對應嵌入LPDDR5x記憶體，容量最大480 GB，GPU對應HBM3記憶體，容量為96 GB
●單臺節點硬碟容量：4臺E1.S規格NVMe固態硬碟、2張M.2規格NVMe固態硬碟
●單臺節點網路介面：1個GbE埠（Nvidia ConnectX-7或Bluefield-3 DPU）、1個GbE埠（IPMI埠）
●單臺節點擴充介面：可安裝2張全高全長PCIe 5.0 x16介面卡
●風扇：7臺 
●電源供應器：2臺2700瓦（1+1備援）

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】