Google日前在Next雲端大會上揭露雲端戰略新布局時,不只推出第一款超低功耗Edge TPU邊緣運算晶片,還公布了首波邊緣運算合作廠商,凌華科技是臺灣第一家合作的業者,在今年8月初一場工研院資通訊日活動上,我們也訪問到凌華科技董事長劉鈞,雖然礙於保密協定,他無法透露雙方合作內容,但也揭露不少Edge TPU特性。

Edge TPU晶片不只比GPU更省電 還能處理更多不同類型的資料

以工業電腦起家的凌華科技,過去幾年專注於工業物聯網設備,如嵌入式設備及IoT閘道器等產品,近來也開始布局邊緣運算,甚至還與Nvidia攜手合作,要將更強大GPU加進自己的產品線中,搶攻邊緣運算商機。

劉鈞就指出,隨著物聯網AI(AIoT)應用需求迅速增長,將來不可能所有資料全部都交由雲端處理,而是必須有一個和傳統雲端不同的分散式運算架構,來幫忙分擔雲端工作量,將運算分散靠近地面資料源的IoT設備處理。這些設備或裝置透過橫向的連結,讓裝置之間可以做到資料即時互通,並在自組的一個本地端網路內運算,這得靠邊緣運算架構才能做到。

他認為,要實現本地端的物聯網AI應用,首先必須要有一個能夠就近運算處理的邊緣運算裝置或設備,可以直接在設備上執行機器學習甚至深度學習模型。「這也是為何Google決定推出自行設計的Edge TPU晶片的原因。」他解釋,Google原本在雲端就已提供Cloud TPU運算雲服務,能讓企業在雲端上訓練自己的TensorFlow機器學習模型。

現在,Google更進一步將它下放到邊緣端而推出Edge TPU晶片,這意味著,以後不論是IoT閘道器或裝置,只要有用到Edge TPU晶片,就可以在上面執行已經訓練好的TensorFlow模型,來進行預測之用,不需要在將資料回傳雲端。

劉鈞進一步說明,使用Edge TPU有不少好處。首先,它的耗電量極低,「它是一個平均功耗大約1.8瓦的超低功率ASIC晶片,」他說,跟一般GPU相比,Edge TPU能夠以高度省電的方式,讓訓練完成的機器學習或AI模型直接進到這個TPU內來執行,使用在邊緣運算設備上時,可以獲得比一般GPU更好的推論效果,而且更省電。

再者,在Edge TPU晶片上面已經可以執行輕量化TensorFLow機器學習模型,它是現在許多行動和嵌入式設備常使用的主要機器學習框架之一,而透過Edge TPU將使得以後要在邊緣運算設備或裝置上,執行簡單的TensorFlow機器學習模型,將變得更容易。

而且不像英特爾VPU視覺運算處理器專注於影像處理,劉鈞指出,Edge TPU能夠處理許多不同類型的資料,像是除了影像或圖像以外,還有溫度、壓力、震動等這類按時間發生順序排列的資料,就很適合用Edge TPU來處理,「這是Edge TPU的強項」他說。

不只做物聯網AI晶片,Google同時還推出了具有連網功能的Edge TPU開發板,可以快速用來打造更智慧化的物聯網裝置,對於開發人員來說,它也將成為Nvidia物聯網AI開發板 Jetson TX2以外的新選擇,而且根據Google的說明,它不只能用於工業物聯網上,其他像是在醫療、零售、交通運輸等領域都能用到它。不過,目前只知道這個開發板將在10月正式供貨,Google至今尚未公布售價與完整規格。

而身為Google在臺灣第一家邊緣運算合作夥伴,雖然礙於保密協定,劉鈞無法透露雙方合作內容,但他也提到,未來也有意將Edge TPU晶片整合到自家的IoT閘道器或IoT設備產品上,要讓旗下更多物聯網設備或裝置,都能具備有AI運算處理的能力,能在上面執行各種機器學習模型,將使得這些設備能變得更聰明。


Advertisement

更多 iThome相關內容