【伺服器加速運算裝置的2種基本型態】智慧型網路卡是在傳統網路卡的基礎上,增設嵌入式處理器與記憶體而成,可以提供網路介面與輔助運算單元。以智慧型網路卡為基礎,又延伸發展出結合了SAS介面的儲存控制器,以及整合GPU處理器的融合式加速卡兩種衍生類型。智慧型SSD是在NVMe SSD基礎上,增設嵌入式處理器與記憶體而成,可以提供SSD儲存空間,以及加速運算單元。圖片來源/Nebulon、Samsung,iThome整理。

我們這次的主題——伺服器加速運算裝置,是發展中的新興領域,隨著個別廠商的偏好、技術發展路線的差異、以及產品型態與應用取向的不同,有著智慧型網路卡、可程式化加速卡,資料處理器(DPU)、儲存處理器(SPU)、智慧型SSD、可程式化SSD,或運算型儲存裝置等各式名稱。

這些命名的出現,分別從不同面向,表達了這類產品的某些特性,但彼此間並沒有明確的區分與界定,事實上,智慧型網路卡與DPU,以及DPU與SPU等名稱,還常常彼此混用。

所以若要更深入地理解這個新興產品領域,我們應該拋開缺乏共通標準的產品命名,改從具體的產品規格特性著手,檢視與比較不同產品的規格,才能從中釐清出一個理路。

檢視產品組成的框架

目前市場上的伺服器加速運算裝置產品,雖然類型繁多、名稱各異,但都具備這三個基本特性:

首先,這類產品都是安裝到伺服器上的附屬裝置。

其次,這類產品都內嵌了可程式化的運算單元,用於為伺服器提供輔助的運算資源。

第三,伺服器可透過這些產品提供的加速運算資源,卸載CPU的運算負載。

而從前述基本特性來看,分別對應了3個基本的觀察面向:

(1)這些產品是以甚麼型態部署到伺服器上 ?是介面卡形式?或其他模組形式?

(2)這些產品提供的運算資源是甚麼型式?是哪一種類型的處理器?

(3)這些產品為伺服器提供的運算卸載功能,是針對哪些應用面向?是可隨用戶需求調整的通用應用?還是捆綁了特定應用平臺的特定應用?

這3個觀察面向,亦即產品部署型態、內嵌的處理器型式,以及應用取向,是我們檢視這個產品領域的出發點。

存在兩種產品部署型態

對於伺服器來說,最基本的附加模組裝置,便是擴充介面卡,所以大多數的加速運算裝置產品,也都選擇以擴充介面卡形式,部署到伺服器。

更進一步,許多加速運算裝置的開發廠商,都出身自網路、儲存相關領域,所以他們推出的加速運算裝置,都是與網路卡與I/O介面卡整合的型態,而這也是這個領域最普遍的產品型態。

但有一些廠商另闢蹊徑,改從另一種伺服器附加模組裝置——磁碟機著手,以PCIe SSD卡或NVMe SSD磁碟模組的型態,部署到伺服器上。透過引進NVMe介面,當前的高性能SSD也能透過PCIe匯流排,取得相當大的傳輸頻寬,足以支援附加運算單元的運作。

I/O介面卡型態產品

以PCIe介面的I/O介面卡形式,部署到伺服器上,基本形式是智慧型網路卡,又延伸發展出不同類型。

● 智慧型網路卡

智慧型網路卡是傳統網路卡的進階延伸產品,傳統網路卡是以ASIC型式的網路控制器晶片為核心,只能處理網路相關的負載。智慧型網路卡則是在傳統網路卡的基礎上,另外搭載了可程式化的嵌入式處理器,既如同傳統網路卡,能為伺服器提供網路介面,又能提供額外的運算單元,依需要執行多樣化的工作負載。典型產品如Intel的N3000、Mellanox的BlueField家族,Xilinx的Alveo U25與SN1000,Pensando DSC-25等。

● 智慧型儲存控制器

更進一步,有些廠商在智慧型網路卡的基礎上,另外結合了SAS介面與RAID運算功能,實際上,這種產品已經不僅只是智慧型網路卡,而可歸類於儲存控制器。

與智慧型網路卡相比,智慧型儲存控制器同樣擁有網路介面,以及可程式化的運算單元,又多了連接與控制儲存裝置的能力,等於是將網路卡、HBA卡、RAID卡的功能,結合於一身,具備完整的儲存控制功能。

典型的產品,有Broadcom Stingray系列中的PS250、Fungible的F1 DPU,以及Nebulon的SPU卡等。

● 融合式加速卡

Nvida在2020到2021年初,陸續宣布幾款結合智慧型網路卡與GPU的產品,包括BlueField-2X、BlueField-2 A100等,在原本智慧型網路卡的基礎上,又整合了GPU,可藉此來擴展運算的功能,支 援即時的安全分析,或是5G相關開發應用等。不過,這種產品目前只有Nvida推動,尚未成為主要類型。

SSD型態產品

以SSD磁碟的型式,安裝到伺服器上,透過NVMe介面與伺服器CPU連結,有2.5吋U.2介面SSD,以及PCIe SSD卡等兩種主要形式。

這種產品是在一般SSD的基礎上,結合可程式化的嵌入式處理器與記憶體而成,既可和一般SSD一樣,為伺服器提供基於NAND快閃記憶體的儲存空間,又能透過內含的嵌入式處理器與記憶體,執行各式各樣運算工作,卸載伺服器CPU的運算負擔,可說是智慧型的SSD。

基於這種形式的典型產品,目前有三星SmartSSD,NGD Systems的Newport Platform、ScaleFlux的CSS 1000與CSD 2000系列SSD等。

內嵌處理器的3大類型

伺服器加速運算裝置的核心,便是裝置上搭載的嵌入式處理器,通常有以下3種類型,各具不同的特性。

● 嵌入式通用處理器

以多核心的Arm或MIPS嵌入式處理器,作為運算單元的核心,功能彈性、廣泛,適用於具備複雜資料結構與演算法的通用運算。

如Mellanox的BlueField、Broadcom的Stingray等智慧型網路卡,以及Nebulon的SPU,都是採用Arm處理器作為嵌入式運算單元的核心。

● FPGA

長處是可針對客製化的運算,提供最佳化架構,特別適合具備高度平行性、確定的程式邏輯與規則的資料結構。

如Intel的N3000、Xilinx的Alveo系列,三星的SmartSSD等,這些產品都是以FPGA作為運算單元的核心,另外,再搭配用於系統管理的BMC控制晶片,或是Arm處理器。

● 訂製的網路控制器

通常是以基於P4架構的可程式化網路處理器作為運算核心,搭配作為系統管理的Arm處理器,特別強調虛擬化網路卸載能力,如Pensando的DSC-25、Netronome的NFP4000,都是採用這樣的架構。

應用取向的區分

我們可以依運算功能與應用環境兩個面向,將伺服器加速運算裝置分為幾種不同類型。

依運算功能來看,我們可分為固定功能與通用兩類,前者提供了預設的卸載運算功能,後者則允許執行用戶端指定的應用程式。

多數智慧型網路卡或智慧型SSD產品,都以提供固定運算功能為主,但藉由可程式化能力,可以更新這些運算功能。另有少數產品,則強調了運行用戶端客制化應用程式的能力。

而從應用環境,則分為開放式與專用兩類,前者可支援任何應用環境,只需透過廠商提供的API或軟體開發工具,就能啟用加速運算裝置的運算能力,多數產品都屬於這個類型。

但是,市面上,也有部分產品只支援特定應用環境,專門搭配特定應用平臺或特定應用。

例如,Nebulon基於Arm處理器的SPU卡,便是用於搭配自身的Nebulon ON儲存管理平臺;類似的,SoftIron以Arm處理器結合FPGA打造的運算裝置,則是用於自身的HyperDrive儲存系統。


熱門新聞

Advertisement