英特爾

在資料中心運算平臺當中,中央處理器(CPU)的發展與應用時間最久,這幾年以來,隨著人工智慧/機器學習、高效能運算(HPC)的當紅,繪圖處理器(GPU)也浮上檯面,成為炙手可熱的企業IT重要產品,並大量用於多種協同加速運算的應用場景之中。

而在這一兩年來,由於雲端服務引發軟體定義網路的風潮,網路功能虛擬化(NFV)、虛擬網路功能(VNF)等技術應用,相繼浮上檯面,再加上後續有次世代無線寬頻網路5G崛起,帶動了虛擬無線接取網路(vRAN)的技術發展,使得原本只能在高效能運算領域打轉的SmartNIC、資料中心等級的FPGA加速卡產品,也開始廣泛受到各界重視。值此同時,還有人工智慧、機器學習的應用風潮持續發酵,各種創新產品相繼問世,於是,市面上,也出現幾種種融合式微型運算周邊裝置,例如,結合處理器與固態硬碟的運算型儲存裝置(Computational Storage Drive),像是NGD、三星與賽靈思等公司,都陸續推出這類產品。

到了2020年5月,Nvidia在自家的GPU技術大會,基於先前併購Mellanox納入的SmartNIC技術與產品,正式提出資料處理器(DPU)的概念,並將其與CPU、GPU並列,成為資料中心等級加速運算主要支柱,自此這類模糊/融合/顛覆既有運算型態的新型解決方案,拉抬至前所未有的市場高度。

相較之下,英特爾因為在2015年併購Altera公司的關係,而開始拓展FPGA技術與解決方案,這幾年針對資料中心、雲端服務與電信業數位轉型需求,陸續推出FPGA加速卡、SmartNIC,2018年併購eASIC,各界也在期待英特爾會如何跨入ASIC應用,以及能否針對這部份市場推出相關產品。

而這個答案可能會在不久之後揭曉,因為,在今年8月的英特爾架構日,他們宣布將推出基於ASIC架構的產品,研發代號為Mount Evans,而且,在解決方案的類型上,正屬於他們在6月開始主推的新型態產品:基礎設施處理器(Infrastructure Processing Unit,IPU),而IPU在概念與用途上,的確與前面提到的DPU、SmartNIC高度重疊,因為在該公司目前的基礎設施加速產品藍圖當中,除了ASIC架構的 IPU,也包含搭配FPGA的IPU與SmartNIC──英特爾也趁著年度架構日的舉辦,公布兩款IPU相關產品,研發代號分別是Oak Springs Canyon、Arrow Creek。

第一款ASIC架構IPU首度公開

2021年英特爾開始主推基礎設施處理器(IPU),除了既有搭配FPGA的SmartNIC產品,他們也將推出ASIC架構IPU,研發代號Mount Evans,該公司的乙太網路平臺事業群主任工程師暨首席架構師,也在今年英特爾架構日首次公開這款晶片的廬山真面目,以及技術架構概要。圖片來源/英特爾

首款ASIC IPU,整合英特爾自行發展與併購的多家廠商技術

關於Mount Evans的開發,英特爾資料平臺事業群技術長Guido Appen表示,是與大型雲端服務供應商一起合作,這款產品的首席架構師Naru Sunder也說,他們從這些業者的實務服務維運上,學習到不少經驗,而這些將會反映在Mount Evans架構設計的取捨上,他強調,這是基於實際工作負載的大規模效能擴充需求,所設計出來的產品,而在能充分因應超大規模執行的就緒狀態下(Hyperscale-ready),他們也針對安全與隔離的功能需求,從底層架構重新設計出整張晶片。

在技術創新上,Mount Evans的首要特色是可程式化封包處理引擎,英特爾自詡為業界最佳的技術,可支援多種現行的應用案例,像是虛擬交換器(vSwitch)的卸載,以及虛擬防火牆、虛擬路由器,而且,在發展上,他們表示,有足夠的空間,支援各種未來的應用需求。

第二個特色是從Optane固態儲存技術所延伸的技術──NVMe儲存控制器,英特爾實作了硬體加速NVMe儲存介面,使得Mount Evans能夠以此來模擬NVMe裝置。

第三是提供新一代的高可靠度傳輸(Reliable Transport)協定,這是與雲端服務供應商合作的成果,能在高度耗損的網路環境中,協助業者與用戶解決「長尾(Long tail)」的延遲性問題。

第四種特色則是提供進階的加密與壓縮加速器,可廣泛適用於多種場景,而在這當中,Mount Evans也運用英特爾長期發展的QAT技術(Quick Assist Technology)。

除了硬體的強化與最佳化,軟體環境的生態系與支援,對於ASIC IPU能否應用於更多場域,也至關重要。英特爾在此引入2019年併購Barefoot Networks之後的收穫,也就是P4程式語言在IT產業的運用,而在IPU當中,他們將會針對IPU用於可程式化網路的資料層(Data Plane)處理,提供標準應用框架。

由於英特爾也在此提到源於Barefoot的可程式化網路軟體開發工具P4 Studio,顯然他們將在此提升IPU的軟體支援。

同時,為了善用與發揮IPU的功能特色,英特爾也將延伸既有的基礎設施軟體開發套件,像是DPDK、SPDK。

英特爾的IPU產品版圖

目前英特爾擁有多種運算與網路技術,因此,無論是早先的SmartNIC,或是最新推出的IPU,這幾年以來,都因不同的搭配方式而發展出多種產品,依據今年英特爾架構日公布的IPU資料來看,大致上可分為純ASIC、Xeon處理器搭配FPGA晶片、FPGA晶片搭配英特爾網路晶片等三種類型,英特爾也預告,將來可能會推出整合ASIC與FPGA的產品。圖片來源/英特爾

區分成兩大單元:運算複合體與網路子系統

關於Mount Evans晶片的硬體設計架構,英特爾架構日也首度對外公開整體配置。基本上,這款產品可區分成:運算複合體(Compute),以及網路子系統(Network Subsystem),而其中,又以後者最受矚目,因當中結合的技術較為多元、複雜。

Mount Evans的技術組成

類似當前的DPU、SmartNIC產品,英特爾Mount Evans同樣包含運算、網路等兩大技術單元,其中運算的部分,包含16顆Arm Neoverse N1核心、英特爾QAT技術,以及用於平臺管理的處理器,網路的部分,則內建封包處理引擎、NVMe、200GbE網路、RDMA等技術。圖片來源/英特爾

在網路子系統的部分,英特爾首先強調的技術特色,是200Gb/s網路全雙工連線能力,而且,可同時支援4臺Xeon伺服器存取;其次是RDMA類型存取協定的使用,Mount Evans支援資料中心日益普及的ROCEv2,以及上述的高可靠度傳輸技術。

第三是源於Optane固態儲存技術的NVMe引擎,能將高效能的NVMe儲存裝置直接「暴露」給伺服器的處理器存取(意思應是指處理器可直接存取NVMe固態硬碟)。

而這項特色能讓基礎設施供應商(雲端服務業者、資料中心管理者)去實作他們想要使用的儲存協定,無論其面對的是硬體加速NVMe over Fabrics,或自行開發的軟體化後端(應指軟體定義)運算系統,均可因此獲益。

接著是內建可程式化封包處理器,可執行前述的虛擬交換器卸載、虛擬防火牆、遙測功能,而在真實世界的處理效能上,英特爾表示,可達到每秒2億個封包的規模。

最後則是提供線上IPsec加密處理能力,可防護網路傳送的每一個封包。

而在運算複合體的部分,英特爾Mount Evans採用的處理器,是Arm的Neoverse N1平臺,當中搭配16顆高時脈核心,以及大容量的系統層級快取,同時,還設置了3個LPDDR4記憶體控制器(可實現3個記憶體通道)。

值得注意的是,網路子系統的加速器能運用運算複合體的系統層級快取,作為最末一階的快取,為Mount Evans的兩個主要單元提供大頻寬、低延遲的連接方式,從而促成彈性的硬體與軟體封包處理方式。

不僅如此,運算複合體本身內含後備型(lookaside)加密與壓縮引擎,亦即上述Mount Evans支援的QAT技術,目前可支援Zstandard壓縮演算法的處理。

最終,運算複合體也配置了雙核心的管理處理器,可針對平臺與調度指揮層提供存取介面,以便支援各種系統管理的要求。


熱門新聞

Advertisement