新任Google Cloud物聯網副總裁李仁鍾(Injong Rhee)從自己褲子口袋中拿出了Google第一款邊緣運算晶片Edge TPU,大小不到一美分的四分之一。(圖片來源/Google)

這場雲端三巨頭的IoT市場大戰,早從4年就開始了。但是,AWS、Azure和GCP三巨頭的IoT布局卻有很大的差別。

微軟先在2015年3月時,發表了Azure IoT套件(Azure IoT Suite),這是一個可用來打造出多租戶架構的IoT PaaS平臺。而Google則是同一年5月I/O大會時,發表了用輕量版Android打造的IoT作業系統Brillo,希望將Android作業的優勢,擴大延伸到IoT戰場上。

AWS也不遑多讓,在同一年10月年度大會時,推出了Amazon IoT平臺測試版,提供了從裝置端、閘道端一直到雲端的IoT租用服務方案。微軟瞄準IoT雲端需求,Google從裝置端OS著手,而AWS則是想要從端到雲都通吃。

隔年,三巨頭IoT平臺相繼正式上線,競爭進入白熱化,微軟持續擴大IoT雲端平臺功能,而Google的Brillo專案,則成了Android Things作業系統,但AWS的IoT布局,在2016年底的年度大會上,開始微調轉向。

想要通吃端到雲的AWS,發現網路中斷和延遲問題是IoT應用最擔心的痛點,轉而率先聚焦在邊緣運算,發表了Greengrass軟體,要作為邊緣運算設備的底層軟體,當時AWS就將無伺服器運算Lambda技術,透過容器技術放進Greengrass環境中執行。不過,Greengrass的挑戰是,需要一定運算效能的主機才能順利運作。

AI成為IoT邊緣運算的新競爭點

2017年,IT技術成了邊緣運算的競爭重點。AWS進一步強化Greengrass,推出ML Inference功能,可以將機器學習模型放入邊緣裝置中執行。另外還推出了FreeRTOS,這是一套可以串連雲端服務的IoT OS軟體。

而微軟也從2017年開始聚焦AI邊緣運算應用場景,提出了智慧邊緣(Intelligent edge)概念架構,但直到2018年5月的Build大會,微軟轉而決定全力擁抱智慧邊緣市場,來建立新的企業AI戰場,推出Azure IoT Edge服務,同樣在Edge端提供和雲端同樣的容器環境,將雲端Azure程式和AI能力,帶進企業本地邊緣端的環境中。

不只如此,微軟更進一步開源釋出了IoT Edge Runtime軟體,這就像是一個輕量級的IoT Edge層OS,可以輕易部署到其他OS或設備中,將它們變成了微軟Azure的智慧邊緣設備。

但Google遲遲沒有加入這場邊緣運算的戰局,直到2018年Next年度大會,才終於揭露了IoT邊緣運算戰略。Google在Next雲端大會第二天,發表了自家搶攻IoT邊緣運算的戰略武器,其中最引人關注的就是Edge TPU晶片。Google要靠自家超強的AI專用晶片技術,從硬體來搶攻IoT邊緣運算。今年10月還將開賣Edge TPU開發板,要讓企業可以快速打造自己的IoT應用。

Google早在今年5月時,就發表了第三代AI晶片TPU 3.0,可以比前一代提高了8倍效能,能處理到100petaFLops,企業能上雲租到的這顆AI晶片,可以媲美一臺超級電腦的運算效能。在Next大會第一天,Google首席科學家李飛飛宣布TPU 3.0進入了Alpha版本,意味著產品化腳步不遠了。不只如此,Google在Next大會第二天主題演講中,新任Google Cloud物聯網副總裁李仁鍾(Injong Rhee),從自己褲子口袋中拿出了Google第一款邊緣運算晶片Edge TPU。這個不到一美分硬幣四分之一大小的Edge TPU晶片,是用來執行ML模型推論預測(inferences)用的AI專用晶片,目前是Alpha版本。除了硬體之外,Google同時發表了支援Edge TPU的Google IoT Edge軟體,可以在Android Things 或以 Linux OS 為基礎的裝置上執行。

「Edge TPU是和Cloud TPU互補的產品,你可以透過Cloud TPU來加速訓練機器學習模型,再將訓練好的機器學習模型,放到Edge設備中,用Edge TPU晶片高速進行推論預測。」Antony Passemard強調,如此一來,就能利用感測器蒐集更多的資料,尤其是大量即時性、在地性的資料來進行決策。

Google預計10月推出Edge TPU開發板套件,內建NXP CPU處理器、Edge TPU、Wi-Fi功能和加密晶片,支援SD卡,可快速用來打造出一臺Edge TPU運算主機。 攝影/王宏仁

Edge TPU平均功耗預估不到2瓦

Cloud IoT產品管理部門負責人Antony Passemard表示,Edge TPU是Google自行設計的超低功率ASIC晶片,可以在邊緣運算設備上執行TensorFLow Lite機器學習模型,但是,不同於Cloud TPU,Edge TPU晶片不是用來訓練機器學習模型,而是用來執行已經訓練好的模型,來進行預測之用。因此,不像Cloud TPU那樣具備peta等級的計算能力,但卻可以用超低功率,以高度省電的方式,在邊緣運算設備或裝置上執行TensorFlow機器學習模型。

Google沒有揭露Edge TPU功耗資訊,但據臺灣第一家Google邊緣運算合作夥伴凌華科技董事長劉鈞透露,跟一般GPU相比,Edge TPU晶片是一個平均功耗的超低功率ASIC晶片,因此,能夠以高度省電的方式,讓訓練完成的機器學習模型或AI模型直接在Edge TPU內執行,用在邊緣運算設備上,可以獲得比一般GPU更好的推論效果。Edge TPU也可和CPU、GPU或FPGA晶片搭配來加速ML推論計算,根據Google官方資料,Edge TPU也可用於分析串流影片,可達到每秒處理30幀的能力。

Edge TPU適合處理時間序列資料

劉鈞指出,Edge TPU能夠處理許多不同類型的資料,像是除了影像或圖像以外,還有溫度、壓力、震動等這類按時間發生順序排列的資料,就很適合用Edge TPU來處理,「這是Edge TPU的強項」他說。

目前也有幾家企業,參與Edge TPU晶片的前測,例如LG CNS將其用於智慧工廠,而Smart Parking則用Edge TPU來改善停車管理和調度,另外也有自駕車系統業者XEE將Edge TPU用於車外攝影和雷達數據的分析。

為了加快企業開發IoT應用,Google還進一步發表了Edge TPU開發板套件(module development kit)。

就像樹莓派開發板Raspberry Pi那樣,Edge TPU開發板就是一個小型的AI晶片主機板,大約是長約3個臺幣十元硬幣,寬約2個10元硬幣大小的開發板,內建了NXP CPU處理器、Edge TPU、Wi-Fi功能和加密晶片,另外也可支援SD卡來儲存資料,可以快速用來打造出一臺Edge TPU運算主機。Edge TPU開發板預計今年10月開始供貨,但Google還沒有揭露售價。

 相關報導  Google Cloud落地大進擊


Advertisement

更多 iThome相關內容