Google發布了最新的Cloud TPU虛擬機器,供用戶以更簡單的方式,存取雲端TPU運算資源,新的Cloud TPU虛擬機器特色在於,讓用戶直接存取TPU主機,並且使開發者能在TPU上,使用TensorFlow、PyTorch和JAX進行開發和部署。

過去,用戶只能遠端存取Cloud TPU,通常必須要創建一個或是多個虛擬機器,並且使用gRPC以網路與Cloud TPU主機通訊,但在新的Cloud TPU虛擬機器中,用戶不再以遠端的方式存取Cloud TPU,而是能在每臺TPU主機上,配置自己的互動式開發環境,因此用戶可以在單一TPU虛擬機器中,逐行編寫機器學習模型並且進行除錯,也能依照需要使用Cloud TPU Pod擴展規模,與其他TPU高速互連。

用戶擁有每個TPU虛擬機器的根存取權限,所以可以在TPU加速器中安裝和執行任何程式,並且使用本地端儲存,在輸入的工作管線中自定義程式碼,甚至是將Cloud TPU整合到研究和生產的工作流程中。

Google提到,這種全新的Cloud TPU系統架構,帶來更簡單和更靈活的使用方式,而且除了可用性的改善之外,也能提升效能,因為用戶的程式碼不需要在資料中心間往返,另外,用戶還會看到明顯的成本節省,由於過去用戶需要額外創建一組強大的Compute Engine虛擬機器,來準備資料傳送給Cloud TPU Pod切片中的遠端主機,但現在可以直接在Cloud TPU主機上處理資料,因而消除額外虛擬機器的成本。

現在us-central1和europe-west4地區已經提供Cloud TPU虛擬機器預覽,用戶可以使用單個Cloud TPU裝置,以及Cloud TPU Pod切片,並且選用TPU v2或TPU v3加速器硬體。


熱門新聞

Advertisement