Cloudflare使用新的人工智慧邊緣運算服務,製作了一個葡式蛋塔辨識系統,用戶只要上傳照片,網站應用程式便會回答該照片內容物是否為葡式蛋塔

Cloudflare現在與Nvidia合作,在其邊緣運算服務Workers平臺,提供機器學習和深度學習運算,讓用戶也可以使用Nvidia GPU和深度學習函式庫TensorFlow,來使用預建置或是自定義的模型進行推理,在Cloudflare網路上執行人工智慧應用程式。

Workers是Cloudflare的無伺服器運算服務,可以將開發者編寫的程式碼,部署到邊緣網路上,提供終端使用者低延遲的服務,而後Cloudflare又另外推出提供儲存的Workers KV服務,支援需要演算法與資料的程式。

當前不少應用程式結合機器學習方法,而Cloudflare認為,這些應用程式必須具有3個特性,要能夠輕鬆擴展、安全地處理模型和使用熟悉的工具。為此,Cloudflare宣布與Nvidia 合作,讓用戶簡單地將人工智慧應用推向邊緣運算網路。

官方提到,過去機器學習模型都被部署在集中式伺服器上,又或是部署在雲端服務供應商的資料中心裡,因此這些模型的服務被限制在特定地區。而Cloudflare的人工智慧邊緣運算解決方案,將模型放置在距離終端用戶,僅需毫秒存取時間的邊緣網路,如此便可提供高效能低延遲的人工智慧應用。

由於模型本身保留在Cloudflare的資料中內,因此開發人員可以部署自定義模型,不用擔心將模型放在終端使用者裝置上,可能存在被盜取的風險,官方也解釋,由於他們在超大型網路中部署模型,因此擴展也就成為平常且內建的功能。

之所以選擇Nvidia GPU和TensorFlow的組合,官方表示,人工智慧開發工具對Nvidia GPU提供良好的支援,因此部署Nvidia GPU將是最佳解決方案,而TensorFlow現在也成為建置和執行人工智慧模型的標準工具,因此Cloudflare邊緣人工智慧將使用TensorFlow,讓開發人員可以使用熟悉的工具,來測試、訓練以及最佳化模型。

除了使用TensorFlow建構自定義模型外,Cloudflare也計畫提供針對圖像和物體辨識、文字偵測等預建置模型。


熱門新聞

Advertisement