Google資料中心內部的TPU設備

圖片來源: 

Google

前陣子GCP才正式推出GPU先占式服務,讓企業可以用便宜7成的價錢,使用GPU資源進行機器學習、人工智慧等高耗能運算服務。這一次Google又加強公有雲的深度學習功能,現在GCP平臺的雲端TPU(Tensor Processing Units)先占式使用模式已經上架,除了美國資料中心外(us-central1),現在歐洲(europe-west4為荷蘭資料中心)、亞洲(asia-east1為臺灣資料中心)的雲端營運中心也都可用。

這一次TPU服務推出的先占式模式,也跟日前GCP平臺的GPU服務一樣,比起隨需使用模式,便宜了7成。按照使用者部署服務的資料中心,亦有收費上差異。目前雲端TPU服務最便宜的使用區域為美國,計價以1小時為單位計算,隨需使用模式要價6.50美元,而先占模式則只需要1.950美元。次之為歐洲,一般使用是7.15美元,先占模式收取2.145美元。而現在最貴的區域則是亞洲區,隨需模式得花7.54美元,先占模式則為2.262美元。

而Google也引用最近使丹佛大學舉辦的效能基準測試比賽DAWNBench所釋出的資料,該計畫綜合評比各類深度學習模型,搭配不同硬體及深度學習框架,根據訓練時間、訓練成本進行排名。而在影像分類的測試中,以單一GCP n1-standard-2實例為訓練環境,搭配雲端TPU以及AmoebaNet模型,只需要49.30美元就能達到93%的準確率。而花最少時間達到93%以上準確率的冠軍,同樣也是使用TPU進行訓練,深度學習模型ResNet-50搭配半顆TPU,在30分鐘多就已經完成目標。

做為加速機器學習運算的TPU,是Google專為機器學習所設計的專用晶片,也是針對自家深度學習框架TensorFlow,所量身打造的客製化ASIC,近年開始部署在Google資料中心伺服器內,讓企業用於執行機器學習應用,「雲端TPU可讓企業使用機器學習技術,開始轉型自家商品、服務。」Google表示,訓練深度學習模型得消耗大量運算資源,連自家的Gmail、搜尋引擎、相片及智慧助理,也都仰賴這款客製化TPU。現在每一張TPU可以提供180TFLOPS的運算力,還搭配64GB的高頻寬記憶體。

每一張TPU可以提供180TFLOPS的運算力,還搭配64GB的高頻寬記憶體。Google表示,訓練深度學習模型得消耗大量運算資源,連自家的Gmail、搜尋引擎、相片及智慧助理,也都仰賴這款客製化TPU。圖片來源:Google

目前雲端TPU服務最便宜的使用區域為美國,計價以1小時為單位計算,隨需使用模式要價6.50美元,而先占模式則只需要1.950美元。次之為歐洲,一般使用是7.15美元,先占模式收取2.145美元。而現在最貴的區域則是亞洲區,隨需模式得花7.54美元,先占模式則為2.262美元。圖片來源:Google


Advertisement

更多 iThome相關內容