率先主推Nvidia H200，技嘉新款5U尺寸8-GPU伺服器上場

去年11月舉行的超級電腦大會SC23，Nvidia發表採用Hopper架構的第二款資料中心GPU產品，名為H200，以及匯集4個H200與8個H200的伺服器基板，名為HGX H200，當時他們預告採用H200的伺服器系統，將在2024年第2季開始出貨。

比較外形同樣為SXM的兩款Hopper架構GPU產品，H100採用高頻寬記憶體HBM3，記憶體頻寬為3.35 TB/s，記憶體容量為80 GB，H200最大的特色是採用更新穎的高頻寬記憶體HBM3e，記憶體頻寬更大，提升至4.8 TB/s（增加43％），記憶體容量也更大，提供141 GB（增加76％）。

一如先前的規畫，今年8月中，市面上，果然開始出現搭載Nvidia HGX H200平臺的伺服器產品消息。第一家正式推動相關宣傳的廠商是技嘉，他們搶先發布新聞稿，宣布推出兩款支援這個平臺的GPU伺服器機型，分別是搭配英特爾第5代Xeon Scalable處理器的G593-SD1-AAX3，以及搭配AMD EPYC 9004處理器的G593-ZD1-AAX3。

到了8月底，開放AI工程聯盟MLCommons恰巧也有動作，選在此時發表最新推論效能測試結果MLPerf Inference v4.1，這是他們二度揭露搭配Nvidia H200的伺服器效能，上次（MLPerf Inference v4.0）都是由Nvidia提交的預覽數據，有4筆，這次提交的廠商有Nvidia（5筆）、Dell（1筆）、技嘉（1筆）、聯想（2筆），總共9筆、皆為正式數據。

以機型配備的GPU類型而言，Dell提出的PowerEdge XE9680，以及聯想提出的ThinkSystem SR685a V3，都是可選擇搭配兩個廠牌、3款資料中心GPU的伺服器產品，而技嘉提報的G593-SD1，是唯一標榜單純搭配Nvidia H200的伺服器產品。而且，與其他同樣搭配Nvidia H200的伺服器效能測試數據相比，雖然技嘉G593-SD1只有兩個項目拿到第一，卻是除了Nvidia之外、唯一揭露全部項目效能測試結果的伺服器產品。

值得注意的是，HPE旗下的Cray超級電腦產品線當中，先前的XD6500系列與技嘉5U尺寸的GPU伺服器G593系列，外觀與組態幾乎如出一轍，均可搭配Nvidia H100等多款資料中心GPU，

隨著Nvidia H200伺服器正式進入市場，2023年3月登場的HPE Cray XD670，標榜搭配8個SXM外形的Nvidia H100 GPU（亦即HGX H100 8-GPU），而在今年6月初第12次改版的硬體規格公告中，也提到此機型能搭配8個SXM外形的Nvidia H200 GPU（亦即HGX H200 8-GPU），而這樣的組態擴充支援，也呼應HPE在6月全球用戶大會Discover發表的AI運算產品組合，因為這當中不僅標榜最新推出的ProLiant Compute DL384 Gen12，採用Nvidia GH200 NVL2，以及DL380a Gen12，採用8個Nvidia H200 NVL，同時提到HPE Cray XD670搭配8個Nvidia H200。

而從8月第14次改版的硬體規格開始，HPE Cray XD670也開始支援第五代Xeon Scalable處理器，以及DDR5-5600記憶體，也恰巧呼應技嘉此時開始推廣的H200伺服器。

產品資訊

技嘉G593-SD1-AAX3
●原廠：技嘉科技
●建議售價：廠商未提供
●機箱尺寸：5U
●處理器：2顆，第四代或第五代Xeon Scalable系列（最高搭配350瓦熱設計功耗款式）
●記憶體：32個DDR5-5600插槽
●儲存配置：8臺2.5吋SATA/SAS/NVMe固態硬碟
●搭配GPU：Nvidia HGX H200 8-GPU
●I/O擴充介面：12個PCIe 5.0 x16介面卡（8個短版、4個全高半長）
●電源供應器：6臺3000瓦（4+2備援）
●系統風扇：29臺（主機板2+4，PCIe4+2，GPU6+11）
●網路埠：2個10GbE埠（Intel X710-AT2）、2個GbE埠（前1後1）

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】