GCP在雲端開始提供Nvidia Tesla T4 GPU的Alpha測試版,由於Tesla T4 GPU針對機器學習推理、分散式訓練模型以及電腦圖形最佳化,因此可以大幅提升這些任務的效率,GCP提到,他們是第一個提供Tesla T4 GPU的雲端供應商。

與其他人工智慧技術相比,機器學習的推理階段,特別需要高效能和低延遲的運算能力,Google提到,Turing Tensor Core支援FP32、FP16和INT8各種精度模式,Tesla T4還實現高達130 TFLOPS的機器學習推理運算效能,延遲最低可達1.1ms。另外,Tesla T4附帶的16GB高速GPU記憶體,能幫助大型或是同時多個機器學習模型進行推理。

而Tesla T4是目前唯一支援INT4和INT1低精度運算的GPU,這將能大幅提升深度學習的運算速度。Google表示,不少使用者要求,在機器學習應用上需要FP32和FP16混合精度運算支援的GPU,而Tesla T4則能符合這樣的需求,其內建的16GB高速GPU記憶體滿足了模型分散式訓練、增強學習和其他機器學習訓練工作負載。

且由於得利於新的硬體加速圖形功能,Tesla T4在原本的電腦圖學應用也表現的非常好,除了近日熱門的即時光線追蹤技術外,也支援離線渲染或任何利用Nvidia RTX技術的應用程序。

用戶可以使用GCP上的Compute Engine深度學習虛擬機器映像檔,快速的開始使用Tesla T4,映像檔預先配置了執行高效能推理工作負載的所有必要設定,接下來Google也還會在Kubernetes Engine(GKE)和其他GCP服務引入Tesla T4。想嚐鮮的使用者現在可以登記加入測試,而Tesla T4的價格將在之後公布。


Advertisement

更多 iThome相關內容