Google正式發布AI平臺預測(AI Platform Prediction)服務,這是運用TensorFlow、scikit-learn以及XGBoost函式庫建立的雲端服務,使用者可以利用AI平臺預測服務來託管已經訓練好的模型,並且處理來自各方的預測請求。

Google的AI平臺提供了完整的機器學習工作流程服務,用戶可以使用AI平臺訓練、評估和調校模型,除此之外,還能部署模型、取得模型預測,甚至是監控預測結果和管理模型版本。AI平臺預測服務建構於GKE之上,新的後端架構不只提高了可靠性,並且也提供新的Compute Engine機器類型和Nvidia加速器,讓用戶根據需求靈活選擇。

在測試期間,AI平臺預測提供了自動縮放、日誌存取,以及請求/回應日誌紀錄等標準功能,在正式版中,Google新增多項更新,以提高AI平臺預測服務的可用性與靈活性。Google提到,因為XGBoost和scikit使用起來簡單,且提供強大的功能,有不少資料科學家喜歡將XGBoost和scikit模型用於生產預測,因此他們簡化模型部署工作,用戶只需要點擊按鈕,就能夠部署使用XGBoost和scikit框架訓練的模型,並且由系統處理服務基礎設施的複雜工作。

而現在用戶也可以在雲端控制臺以及Stackdriver指標中,查看部署在Compute Engine上模型的資源指標,透過了解模型GPU、CPU、記憶體和網路使用率,能夠協助用戶決定要使用的硬體規格,以最佳化模型效能。

另外,Google在us-central1、euro-west4和asia-east1三個區域添加新端點,透過提供更好的地區隔離性,強化預測服務的可靠性。而AI平臺預測服務也新增的Beta測試功能VPC服務控制,讓用戶定義安全範圍,限制模型僅可接受來自於安全範圍的存取。


Advertisement

更多 iThome相關內容