AWS更新其G系列EC2執行個體,發布最新搭載Nvidia A10G張量核心GPU的G5執行個體,能夠更好地支援多媒體和機器學習等使用案例。AWS在兩年前發布配備可多達8個Nvidia T4張量核心GPU的G4執行個體,主要針對機器學習推理和圖形密集的應用程式,提供高效能GPU運算能力。

而現在新的G5執行個體,則是搭載多達8個A10G張量核心GPU,CPU則是使用第二代AMD EPYC處理器,整體來說,推理和圖形運算的性價比前一代提高了40%。

A10G GPU與T4相比,A10G GPU機器學習訓練的效能達3.3倍,推理能力和圖形效能也有3倍,每個A10G GPU具有24 GB記憶體、80個光線追蹤核心、320個第三代Nvidia張量核心,可以提供250 TOPS運算能力。

隨著GPU的升級,G5執行個體的光線追蹤也獲得提升,因此能更好地支援遊戲開發工具,而且每個執行個體也擁有大量EBS頻寬,甚至能夠支援即時播放用例。在機器學習支援上,G5在訓練和推理的速度更快了,用戶也能使用Nvidia CuDNN、TensorRT和各種針對GPU最佳化的軟體,加快機器學習運算。

G5執行個體同時支援Linux和Windows作業系統,並相容各種圖形和機器學習函式庫,包括CUDA、OpenCL、DirectX、Vulkan和OpenGL等。目前G5已經上市,用戶可以在美東、美西和歐洲地區使用,同時用戶也能夠在Amazon ECS和EKS叢集中,啟用G5執行個體。


熱門新聞

Advertisement