在1年前舉行的SC22超級電腦大會期間,Dell針對高效能運算與人工智慧應用需求,發表PowerEdge XE系列伺服器3款機型,CPU均為英特爾即將推出的第四代Xeon Scalable系列,GPU區分為搭配SXM外形的Nvidia H100、A100,以及OAM外形的Intel Data Center GPU Max。

隨著今年1月英特爾第四代Xeon Scalable系列上市,Nvidia H100量產就緒,這幾款機型陸續登場。搭載8臺SXM外形的Nvidia H100、A100的XE9680,最先於3月亮相,在臺灣、新加坡都有公開發表活動,產品的效能測試數據公布在MLPerf Inference:Datacenter 3.0、3.1,以及MLPerf Training 3.1;搭載4臺SXM外形的Nvidia H100的XE8640,在5月登場,MLPerf Inference:Datacenter 3.1也列出此款機型的效能測試數據。

至於表定應該與上述兩款機型同在今年上半發表的XE9640,直到9月才釋出細部規格、內部結構等相關消息。

去年11月,Dell僅概述它是2U尺寸的GPU伺服器,將搭載4臺Intel Data Center GPU Max系列為一的OAM外形加速器主板,以及導入完全的直接液態冷卻(DLC)散熱機制;到了今年3月,Dell在臺灣展出實機時,這款伺服器外形就如同一般的2U尺寸伺服器,較顯著的差異是機箱尾端接出兩條水管,而在現場展示的設備機箱內部,我們能明確認出位於後半段的處理器、記憶體配置,但前半段空空如也,極有可能將資料中心GPU設置在此。

  

9月底在臺舉行的2023戴爾科技論壇,我們看到Dell現場特別陳列裝載GPU的3款PowerEdge XE機型,透過工作人員的解說與開箱展示,我們意外得知XE9640不僅如先前預告,可搭配Intel的GPU之餘,居然也能換成4臺SXM外形的Nvidia H100。

  

  

而在液態冷卻元件方面,XE9640採用CoolIT Systems的產品,並且能支援這家廠商提供的機櫃液態冷卻基礎架構,用於42U與48U尺寸機櫃的XE9640歧管設置。

  

    

值得注意的是,在整體資源配置上,我們注意到Dell於9月公布的技術規格指出,搭配不同GPU會影響XE9640支援的記憶體插槽數量。舉例來說,搭配Nvidia GPU,最大可使用32個記憶體插槽,能安裝到2 TB記憶體(單支64 GB),搭配Intel GPU,最大可使用16個記憶體插槽,能安裝到1 TB記憶體(單支64 GB)。若因為GPU不同而導致整臺伺服器的記憶體擴充性受限,恐怕會嚴重影響用戶搭配Intel GPU的意願。

關於實際導入XE9640的案例與XE9640的效能表現,11月初適逢SC23大會舉行,公布全球500大超級電腦排行榜,有一座採用XE9640的新進系統上榜,那就是英國最快的超級電腦「Dawn」,以第一階段的狀態拿下第41名,是由劍橋大學、英國研究創新局、Dell、英特爾聯合發展的,採用Intel Data Center GPU Max 1550。

  

  

AI效能測試結果MLPerf Inference: Datacenter 3.1也在此時公布,上面首度揭露XE9640的數據,搭配的GPU是Nvidia H100,若與同樣搭配4臺Nvidia H100的Dell PowerEdge XE8640相比,所差無幾,XE9640僅在gptj-99、gptj-99.9這兩組大型語言推論項目勝出,或許是因為XE8640可搭配更多臺固態硬碟。

產品資訊

Dell PowerEdge XE9640
●原廠:Dell
●建議售價:廠商未提供
●機箱尺寸:2U
●處理器:2顆,第四代Xeon Scalable系列(最高搭配56核心機型)
●記憶體:32個DDR5-4800插槽,最大可擴充至2 TB
●儲存配置:4臺2.5吋NVMe固態硬碟+2臺M.2 NVMe固態硬碟(BOSS-N1)
●搭配GPU:Nvidia HGX H100 4-GPU,4個SXM5外形GPU,或是Intel Data Center Max GPU 1550,4個OAM外形GPU
●I/O擴充介面:4個PCIe 5.0 x16(2個全高半長、2個矮版半長)
●電源供應器:4臺2800瓦(支援2+0、2+1備援、2+2備援)

【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】

熱門新聞

Advertisement