左側是現行伺服器在虛擬化平臺當中的架構,實體網路介面與其他加速運算介面卡的部份,僅幫CPU分攤網路連線與特定的工作負載,右側則是Nvidia預期的DPU加速架構,能將各種軟體定義應用的負載交付給DPU處理,減輕CPU負擔。

在Mellanox旗下產品中,大家較熟悉的是乙太網路與InfiniBand的網路介面卡、交換器、互連纜線與收發器,在超大規模資料中心、高效能運算領域,佔有一席之地。

不過,Mellanox仍有一個系列產品遲遲未受到各界關注,那就是BlueField。這系列產品是在2016年6月問世,後續主打NVMe over Fabrics、SmartNIC等應用,對應儲存與網路需求,並稱其為可程式化處理器或可程式化介面卡。

DPU不再坐冷板凳,定位明確,可望跨入資料中心基礎設施領域

到了2018年,Mellanox改以DPU來稱呼BlueField。然而,性能比SmartNIC性能更為強大的DPU,實際應用仍難與SmartNIC區隔,直到今年10月,Nvidia終於幫這類產品找到明確的使用定位,還能搭配企業級系統軟體平臺,實用性可望大增。目前DPU包含哪些產品呢?

BlueField-2

這款DPU產品早在VMware去年8月底舉辦的VMworld大會期間,就與ConnectX-6 Dx一起亮相,而在本次的GTC大會期間,Nvidia創辦人暨執行長黃仁勳正式介紹它,並以「晶片上的資料中心基礎架構來形容。

在架構上,黃仁勳提到,BlueField-2能夠進行安全的運算處理,將應用程式範圍,從IT基礎設施的範圍間隔,可儲存加密金鑰,並且加速SHA-256認證與加密協定處理,而且能夠執行正規表示式與深度封包檢測,可用於應用程式辨識、入侵防護、網站應用程式防火牆,以及從頻外(out-of-band)角度來進行的惡意軟體偵測,它也能支援NVMe儲存應用,可支援伸縮式區塊儲存、區塊儲存加密、重複資料刪除、壓縮。

Nvidia認為,若純用中央處理器,提供上述這些功能且達到100 Gbps效能,可能會用到125顆處理核心才足夠。

黃仁勳強調,BlueField-2是可程式化的資料中心晶片,Nvidia將長期支援。

DOCA

這是專為BlueField而設的軟體開發套件(SDK),當中整合了多種開放API,像是用於網路的DPDK、用於儲存的SPDK、用於封包處理的P4,以及Nvidia發展的CUDA、AI軟體應用。

如何讓DPU能夠支援更多應用,軟體支援的發展將是關鍵。黃仁勳特別以他們長期發展的CUDA來類推DOCA,表示兩者具有同樣性質,並稱其為可程式化資料中心基礎設施處理器架構,開發者可用它來撰寫軟體定義網路系統、軟體定義儲存系統、網路安全防護系統、遙測(遠端集中管理),以及網路內運算(In-Network Computing)。

他強調,DOCA將完全相容與無縫整合到主要的作業系統及Hypervisor,而基於DOCA寫成的應用程式,可執行在BlueFileld-2及後續BlueField版本。

另一個DPU前景看好的消息,是Nvidia與VMware在9月底宣布的合作,該項計畫稱為Project Monterey,黃仁勳也在隔周舉行的GTC大會重申此事,因為這項計畫能否奏效的關鍵正是Nvidia DPU。他說,「我們要將VMware移植到BlueField上,誠如BlueField是資料中心基礎設施的處理器,而VMware是資料中心基礎設施的作業系統,我們的合作將重新定義資料中心。」他強調,Nvidia能將虛擬化、網路、儲存、資安等工作,卸載到BlueField,實踐分散式的零信任安全運算,讓全球數千萬臺伺服器的效能與安全防護,獲得大躍進。

基於雙方的合作,有機會將軟體定義資料中心的架構提升至新的境界,若要促成這樣的發展,兩家公司都是關鍵,因Nvidia握有BlueField-2資料處理器、DOCA軟體開發套件,VMware掌控作業系統平臺,各擁有可程式化資料中心基礎設施平臺的一部分。

Nvidia牽線,系統軟體廠商與伺服器業者都將支援

為了拓展DPU的應用,Nvidia也找來許多廠商與其合作。舉例來說,與VMware合作研發的Project Monterey,將促使軟體定義資料中心平臺VMware Cloud Foundation(VCF)支援SmartNIC/DPU技術,他們也將針對VCF進行重構,實現伺服器處理的分散運作,並支援裸機型態的伺服器部署。在這樣的架構下,應用程式的工作負載可執行在一臺實體伺服器,所耗用的協同處理器硬體加速資源,則是坐落在其他實體伺服器,分散負載。

同時,ESXi這個Hypervisor虛擬層會執行在SmartNIC/DPU當中,VMware表示,不只是ESXi,連帶儲存虛擬化平臺vSAN、網路虛擬化平臺NSX,都是直接執行在SmartNIC當中的Arm處理器,而且是處於持續(persistent)執行狀態,但此時企業仍然可用單一管理框架來控制所有運算基礎設施,並將網路、儲存、資安防護等功能,從原本需集中在主要的伺服器執行,改而釋放到SmartNIC/DPU執行,因此,這些功能的漏洞修補與升級作業,可獨立於伺服器之外執行,無需與Hypervior相依。

Project Monterey能否順利推動,除了要克服技術層面的挑戰,廠商、市場生態系統的支持也是關鍵,而這項計畫的主要成員,目前除了VMware、Nvidia,還有英特爾、Pensando Systems,戴爾科技集團、HPE、聯想等伺服器廠商也將基於這個計畫,推出整合系統。

單就BlueField-2而言,Red Hat、Canonical這兩大Linux OS開發商,計畫或宣布支援BlueField-2。網路防火牆廠商Check Point也宣布整合BlueField-2,該公司旗下的Infinity Next Nano Agent代理程式軟體搭配DPU之後,可在不需損耗伺服器CPU資源的狀態下,針對伺服器進行微分段(Micro-Segmentation t)等多種安全防護。

在硬體伺服器的部份,Nvidia也號召多家廠商與其合作,華碩、Atos、戴爾科技集團、富士通、技嘉、新華三、浪潮、聯想、廣達/雲達、Supermicro等公司,都計畫推出整合DPU的伺服器。

若要發揮DPU的潛能,能否獲得足夠的軟體相容性與相關支援,將會是另一個關鍵,Nvidia在此提供了DOCA架構,當中包含多種加速處理的軟體開發套件。

為了拓展DPU的企業級應用與提升伺服器虛擬化平臺的效能,Nvidia與VMware展開密切合作,他們將透過「Project Monterey」,讓DPU能夠以持續的方式執行VMware的ESXi、vSAN、NSX,如此可從原本過於集中於伺服器端CPU的架構,轉為搭配DPU的分散、協同處理架構。

熱門新聞

Advertisement