AWS現在提供使用者預先配置的深度學習容器(Deep Learning Containers),使用者可以將預先訓練的模型,放置在ECS(Elastic Container Service)上,以在新的深度學習容器進行推理,使用者可以使用官方預先配置的映像檔,並根據需求自定義。

AWS提到,不少使用者早已經使用Amazon EKS與ECS,在雲端部署TensorFlow工作負載,而現在AWS讓這項工作更加簡單,最佳化映像檔提供各種預設環境容器簡化環境設置的工作,以縮短訓練時間並提升推理效能。

這些不同的深度學習容器,其命名基於使用不同的框架、環境以及硬體,使用者在框架有TensorFlow或MXNet兩種選擇,以執行模型訓練或是推理任務,工作負載可以在CPU或是GPU上運作,Python的版本有2.7或3.6可供選擇使用,使用者也可以選擇採用分散式訓練框架Horovod,並Ubuntu 16.04上執行。

官方提到,這些映像檔都經過預先配置與驗證,因此使用者可以在數分鐘內完成客製化設定,開始在Amazon ECS和Amazon EC2上開始執行深度學習任務,這些映像檔免費釋出,可以在AWS Marketplace和Elastic Container Registry中找到這些映像檔,使用者可以直接使用官方提供的版本,或是根據需求選用其他函式庫或加入額外的套件。


Advertisement

更多 iThome相關內容