Anyscale現在與微軟合作推出Anyscale on Azure私有預覽,這項以Ray運算框架為核心的人工智慧原生運算服務,以Azure第一方服務形式提供,企業可在自有的AKS(Azure Kubernetes Service)環境上建置與擴充人工智慧工作負載,整合Azure Entra ID做為驗證機制,可延伸既有的IAM存取控制到Anyscale資源。

Anyscale on Azure服務以Azure Portal為入口,採引導式部署流程,系統會在AKS中安裝Anyscale Operator,由其連結Anyscale控制平面與Kubernetes叢集。企業可在同一訂閱下建立多個Anyscale Cloud與專案,將計費與資源歸屬分流管理,並沿用既有的網路、儲存與資料權限設定。

Ray本身是一套針對機器學習與現代人工智慧工作負載設計的分散式運算開源框架,提供彈性平行化與資源調度能力,讓資料前處理、訓練與線上推論能在一致的程式碼庫與API上擴展。面對模型規模成長、GPU密集使用與資料型態多樣化,Ray的重要性在於統一作業模型與叢集資源,縮短從原型到上線的距離,並降低把離線批次與即時服務分拆維運的複雜度。

Anyscale表示,此服務內建Anyscale Runtime與開源Ray相容,並在穩定性與效能上進行最佳化。官方舉例指出,特徵前處理與批次影像推論可達10倍加速,長時間或大規模作業則支援作業檢查點與訓練中段恢復,另以動態記憶體管理降低暫存至磁碟(Spilling)與OOM(Out of Memory)風險。

Anyscale on Azure服務採BYOC(Bring Your Own Cloud)模式,工作負載直接在用戶的Azure訂閱與AKS叢集內執行,與既有的IAM政策、資料存取與治理流程一致,縮短從開發到上線的移轉與驗證作業。計費與存取權限集中於Azure體系管理,減少跨平臺對齊的溝通成本,也便於在同一組工具鏈下追蹤成本與使用量。

熱門新聞

Advertisement