微軟
微軟於周二(11/19)展開的Microsoft Ignite大會上,發表了整合企業AI解決方案的Azure AI Foundry,以及首個客製化的資料處理單元Azure Boost DPU,與安全晶片Azure Integrated HSM。
Azure AI Foundry是個統一的微軟AI平臺,它的兩大元件是原名為Azure AI Studio的Azure AI Foundry入口,以及Azure AI Foundry SDK,目的是協助開發人員於企業級平臺上建置生成式AI應用,使用尖端的AI工具及機器學習模型來探索、建置與部署,以及與團隊共同完成應用程式開發的整個生命周期。
根據微軟對該平臺的說明,當使用造訪Azure AI Foundry入口網站時,所有的路徑都是朝向一個專案,它是個易於管理的容器,也是協作、組織,以及連結各式服務與資料的關鍵,在使用者建立一個專案以前,可先探索來自不同供應商的各種模型,測試各種AI服務與能力,一旦確定所要的模型及服務,便可由AI Foundry引導專案的建置。
Azure AI Foundry SDK則是一個用來簡化AI程式開發的完整工具鏈,它整合了多種模型、資料來源及AI服務,可支援從模型選擇到應用部署的全部開發過程。例如它支援使用者選擇微軟或其它第三方模型;內建聊天機器人、生成式AI應用及內容推薦系統等範本;具備可整合模型、資料或服務的工具;並支援跨開發、測試及生產環境的應用開發。
Azure AI Foundry SDK目前支援Python與C#程式語言,並準備支援JavaScript,現在已可存取OpenAI的各種模型,提供一致的推論介面,亦可使用Azure AI Search及Azure AI Agent Service等服務。
近年來微軟積極投入客製化晶片的開發,去年11月首次發表了專為AI而設計的Azure Maia AI,以及雲端運算處理器Azure Cobalt CPU,至於Azure Boost DPU則是微軟首款自製的資料處理單元。
微軟解釋,傳統CPU雖然能夠處理通用運算任務,但在面對數百萬網路連結的高度複雜資料流時,表現卻不盡理想,而GPU儘管專注於AI運算,卻不適用於資料密集的工作負載,因而設計專為資料處理進行優化的Azure Boost DPU,它整合了多個伺服器元件,提供高效能與低功耗的解決方案。相較於傳統CPU, Azure Boost DPU處理雲端儲存任務時,只使用1/3的電力,卻可達到4倍的效能。
Azure Integrated HSM(Hardware Security Module,硬體安全模組)則是專為保護雲端資料及應用所設計的安全晶片。微軟說明,傳統雲端HSM通常仰賴網路連結,可能造成存取金鑰時的延遲問題,也降低了自遠端HSM釋出金鑰的安全性,而Azure Integrated HSM則是採用本地化設計,將HSM直接整合至伺服器環境,徹底解決上述的限制。
微軟亦計畫自明年便要把Azure Integrated HSM安裝在Azure資料中心的每一臺新伺服器上,以同時強化對一般及機密任務的保護。圖片來源/微軟
熱門新聞
2024-12-08
2024-12-08
2024-11-29
2024-12-08