微軟智慧邊緣(Intelligent edge)產品商用化,終於能夠在今年看到了。雖然早在2017年,微軟就已提出了智慧邊緣的概念及架構,但當時產品還未成型,一直到今年,在這次Build 2018大會上,微軟才正式宣布自家智慧邊緣產品Azure IoT Edge,將在今年正式上線,意味著,微軟花了2年時間布局智慧邊緣,終於在今年可以邁入商用化階段。

隨著微軟智慧邊緣的商業模式和更多產品、服務陸續到位,微軟今年更進一步開源釋出Azure IoT Edge服務的Runtime程式碼,要讓Azure IoT Edge的能力或功能,更容易快速擴散到各種裝置或設備上,以建立一個更完整的智慧邊緣生態系。

微軟開源Azure IoT Edge智慧邊緣服務核心程式碼

Azure IoT Edge是微軟去年推出的第一個智慧邊緣服務,它由3個核心元件組成,IoT Edge Runtime、IoT模組,以及採用雲端設計的介面。IoT Edge Runtime是安裝在IoT Edge裝置底層作業系統上的一支程式,微軟利用它建立一套跟Azure雲端一樣的容器(Container)執行環境,在這個執行環境中來部署及執行容器化的IoT Edge模組。IoT Edge模組裡面裝的可以是利用容器打包的Azure雲端服務、機器學習程式碼,或者是自己寫好的一段程式。因為是和Azure雲端一樣的容器執行環境,因此,同一支容器應用程式,可以在本地邊緣端或在Azure雲端上執行。

它更可以當成是一種IoT Edge層OS,也就是說,任何裝置只要裝上Runtime程式,就等於是預載了IoT Edge處理、分析,以及串連Azure IoT的能力。微軟將它開源釋出,意味著,之後任何人都可以自由修改這個Runtime,加入新的程式碼以符合自身需求,或為自己的應用添加新功能,使用上將具備有更高的擴充性。對於開發者來說,也更容易取得IoT Edge應用程式開發的主控權。

而且不像Amazon的AWS Greengrass服務提供的是一套軟體,想要用得先在裝置上安裝整套軟體。IoT Edge Runtime則可以是藏在OS層底下的一組或一支程式,企業更容易將它整合到自家應用系統,或現場IoT設備當中,而無須安裝整套軟體,整合相較容易多了。微軟已經把Runtime程式碼公開在Github平臺上,供人自由取用。

終於能在Edge裝置跑真正AI應用

有了更容易散播Azure的IoT Edge能力的環境,微軟現在更進一步推出與AI深度整合的Azure IoT Edge新服務,讓AI應用可以在IoT Edge裝置上真正落地。第一個推出的就是微軟認知服務的影像辨識工具Custom Vision,這是原本Azure雲端才有的影像分類及識別服務,現在也能用在本地端,不只行動裝置能用,現在各種裝置上都能用,例如無人機、機器人等,可以直接就近偵測、識別、分析環境影像資料,在裝置上立即呈現視覺化分析結果,因為在本地端就能自行運算處理,不用在傳雲,所以即使沒有網路也不怕。其他的微軟認知服務,例如語音、語言等功能也將在數月內開始支援。

其他與Azure IoT Edge相關的服務也有更新推出,例如除了能讓開發者以JavaScript編寫自己的程式以外,現在針對智慧邊緣的串流分析服務,也新增對C#語言的支援了,不過目前還停留在封閉預覽版(Private Preview)階段。

微軟還推出不少智慧邊緣新工具,用於簡化開發、測試、部署智慧邊緣應用。像是開發人員現在能使用如VSCode等熟悉的雲端開發工具,在同一套相同開發環境上,開發、測試,打包容器化的IoT Edge模組,也能支援Visual Studio Team Services及Microsoft Team Foundation Server這類自動化及整合服務工具,加快應用程式的部署

再者,微軟將去年雲端Azure上推出的Azure Event Grid事件路由託管服務,更進一步延伸到智慧邊緣,用來簡化在裝置上基於事件的應用程式開發和管理流程,另針對安全部分,也推出有像是Azure IoT Edge Security Manager管理工具,從硬體端來持續強化對裝置安全的保護。

微軟更將這些容器化的IoT Edge模組,變成是一個個可以在線上交易買賣的商品。微軟在活動上介紹了IoT Edge marketplace市集交易平臺,讓企業或開發人員能夠利用這個市集平臺,來尋找符合自己應用需求的IoT Edge模組,並放進自己的裝置中,減少應用開發、測試的時間,當然,對於微軟來說,這個新服務背後更大的野心,就是要建立更完整的智慧邊緣應用生態系。

對於容器的布局,微軟也開始漸漸往智慧邊緣靠攏了。因為Azure IoT Edge本身是以容器技術為基礎建立的容器執行環境,微軟靠著容器架構,串起了雲端和智慧邊緣。因此,為了要滿足能支撐百億級IoT Edge裝置部署,所需建立及管理的容器叢集應用基礎架構,將來容器技術的發展,勢必也得往這方向前進,從微軟這次更新的容器服務中,就可看出端倪。

在新版AKS容器調度服務(Azure Kubernetes Service)中,其中一項重要的更新功能,就是開始支援了Azure IoT Edge的容器調度管理的功能,讓企業也能開始利用Kubernetes在本地端執行容器調度任務,管理更直接且即時,而且僅需單一管理介面,管理人員就可以同時管雲端和智慧邊緣兩套不同環境,管理起來將更容易,對於企業來說,直接能就近調度管理不同IoT Edge容器叢集,以後不一定要上雲。

微軟自去年發表Azure IoT Edge服務以來,至今已與包括Advantech、Beckhoff Automation、HPE、Moxa、 NexCom、Plat’Home,以及Toshiba等晶片、硬體製造商合作,將該服務整合到如閘道器設備、嵌入式系統、Raspberry Pi 3開發板,以及穿戴設備等各式各樣裝置或設備中。

對抗AWS,微軟聯手高通推出深度學習視訊攝影機

為了要將微軟AI服務能力帶進邊緣裝置上,以開發出更多智慧化的IoT應用。微軟還推出一款深度學習視訊攝影機套件(vision AI developer kit),來與AWS DeepLens分庭抗禮。它的外型就像是一臺網路攝影機,其硬體使用了高通的AI引擎和晶片技術加速運算,讓相機具備有就近運算及AI影像識別處理能力。微軟還在相機內整合了自家Azure IoT Edge服務,讓企業更容易將Azure服務以容器迅速打包,並在相機上啟用執行,讓開發者可以快速部署,來進行應用的開發及測試。

在大會上,微軟也公開展示一段畫面,利用這臺相機擷取到的影像畫面,直接搭配Azure機器學習模型現場作預判,幫助美國洛克威爾自動化公司(Rockwell Automation)快速檢測出異常的問題設備,即早報修。當相機偵測到異常情況時,也只須向雲端發送警示訊息,不需要將整段監視影片全部上傳雲,有效減少網路頻寬成本。

微軟推出一款深度學習視訊攝影機套件(vision AI developer kit),來與AWS DeepLens互別苗頭。這臺相機硬體上使用了高通的AI引擎和晶片技術加速運算,也支援了Azure IoT Edge服務,微軟還現場示範,利用相機擷取到的影像畫面,直接搭配Azure機器學習模型現場作預判,幫助美國洛克威爾自動化公司快速檢測出異常的問題設備,即早叫修。(圖片來源/微軟)

所有Windows 10裝置都將是智慧邊緣裝置

除了視訊攝影機,微軟也找來中國無人機製造商DJI合作,未來DJI旗下無人機機型,包括M210 RTK 、Mavic Air等都將支援Azure IoT Edge的功能,讓民用無人機也能夠具備有近端運算、AI處理執行的能力,能用於精準農業、建築測量及保安監控服務上。合作一開始,兩家更合力推出一個桌上Windows 10版SDK工具,可以將全球7億個Windows10電腦裝置,都變成是無人機的飛行控制器,開發者從電腦上就能遠端遙控無人機飛行,或是即時接收飛機上的數據,藉此開發出更多新應用。

甚至,微軟也預告將在下一版Windows更新發布時,將內含機器學習演算法提供硬體加速能力,並可適用在任一臺搭載支援DirectX 12的GPU顯卡的Windows裝置上,想當然爾,微軟更大目標,是要讓以後所有的Windows10電腦裝置,都能變成是智慧邊緣裝置,讓開發人員能夠輕易以Azure IoT Edge在它上面開發不同的AI應用。

微軟Kinect體感裝置在AI與Edge再次找到新舞臺

而曾被微軟視為明日之星的深度感測相機Kinect,儘管去年已停產,但顯然微軟另有盤算,甚至早已替它找到了新出路,就是結合智慧邊緣應用。

微軟在大會上介紹了一項結合Kinect動作感測器與智慧邊緣裝置的新專案Project Kinect for Azure,在這項計畫裡,他們將原來使用於遊戲和PC上的Kinect動作辨識技術,整合到了智慧邊緣裝置上,讓企業不需要專用Kinect設備,透過這個Kinect開發硬體,就能自行開發結合手勢或體感控制的新應用。例如,建置具有避障與自動導航功能的機器人與無人機等。

更重要的是,這個Kinect開發裝置上,還整合Azure IoT Edge功能,讓開發者可以在裝置上利用Azure 機器學習、或認知等服務,打造更多結合AI與動作追蹤的智慧邊緣應用。

一手打造微軟AR眼鏡HoloLens的微軟第一發明家Alex Kipman更在自己的LinkedIn上發表文章,對於這項新專案揭露更多細節。他表示,硬體上,新一代Kinect裝置將搭配與下一代微軟AR眼鏡HoloLens相同,採用更高精度的3D深度感測相機、感測器,能提高操控者動作偵測的精細度,以便能夠在更低功耗的裝置上進行開發,讓上億的終端裝置都能透過手勢、觸控等形式蒐集資料,展現更多元化的應用。甚至,「當有了更精準的數據作依據之後,也意味著,以後開發人員部署AI應用將更容易。」他表示。

曾被微軟視為明日之星的深度感測相機Kinect,儘管去年已停產,但顯然微軟另有盤算,就是結合智慧邊緣應用。新一代的Kinect開發板,讓企業不需要專用Kinect設備,就能自行開發結合手勢或體感控制的新應用。例如打造具有避障與自動導航功能的機器人與無人機等。(圖片來源/微軟)

Project Brainwave深度學習平臺也將支援智慧邊緣應用

去年夏天,微軟發布一套代號為Project Brainwave的深度學習加速平臺,在本次大會上也終於推出預覽版,而且不只提供了雲端版的公開預覽,還發布就地部署版的封閉預覽。這也代表,未來針對智慧邊緣應用,也能夠使用這項新服務。

微軟以DNN深度學習框架整合英特爾FPGA晶片,在自己的資料中心內打造出一個具備深度學習運算環境的FPGA資源池,來加快資料處理的時間, 讓企業使用微軟AI應用可以更即時,甚至微軟宣稱,在AI硬體加速運算方面,Project Brainwave能比Google的TPU快5倍,此前微軟也曾將它用於加速自家Bing搜索引擎服務,並且能獲得比原先更快10倍的查詢速度。

專訪微軟Azure IoT總監:Azure IoT Edge Runtime就是智慧邊緣OS

微軟Azure IoT總監Sam George。(攝影/余至浩)

「它就是一個智慧邊緣OS。」講到微軟這次開源釋出的IoT Edge Runtime核心程式碼,微軟Azure IoT總監Sam George親口對我這麼說。

Azure IoT Edge是微軟第一個智慧邊緣服務,讓雲端的Azure服務可以就近在本地端執行,不只支援了Windows或Linux兩大作業系統,對於硬體運算能力要求也不高,即使是記憶體容量只有128MB大小的Raspberry Pi單板電腦也能用。

IoT Edge Runtime執行程式則是負責啟用和管理裝置上不同的智慧邊緣服務,它更是組成Azure IoT Edge服務的核心元件之一。Sam George解釋,微軟之所以會將它開源的原因有2個,一是開發者需求,能讓他們自行修改或增加新的功能,並放進自己的應用中;二是透過採用開放透明的方式,將替他們帶來與更多硬體廠商合作的機會。

他補充說,藉由更多開發者加入,一同檢視、修正,甚至貢獻自己程式碼,也將能讓Runtime功能更加完整。

不過,提到和競爭對手亞馬遜的AWS Greengrass服務有何不同?Sam George直截了當的說:「Azure IoT Edge等同於就是AWS Greengrass」,不同的地方是,他說,Azure IoT Edge是基於容器技術建立的一套系統,讓Azure雲端服務可以在近端邊緣裝置上執行,意味著,同一支開發完成的容器應用程式,同時可以跑在雲端和邊緣。不過,這項Azure IoT Edge服務目前還是公開預覽版,預計今年下半年才會正式推出上線。

除此之外,對於新版AKS容器調度服務(Azure Kubernetes Service)也一併開始支援Azure IoT Edge,他更興奮的表示,對於智慧邊緣發展來說,這將是一項重大突破,代表以後也能用它執行容器調度任務了,而且僅需單一介面,就能管雲端和邊緣兩套不同的容器叢集應用環境,或者是不同區域的IoT Hub,管理和部署上都更方便。

【智慧邊緣應用實例】日本東京停車廠將AI帶進穿戴裝置加快檢修

日本東京的立體停車廠維運業者Famm,從一個多月前,開始試用智慧邊緣技術,搭配穿戴裝置,來幫助他們改善停車廠設施維護,甚至是加快檢修。並且首度將他們的使用成果在Build大會上公開展出。(攝影/余至浩)

智慧邊緣應用,現在不只能用在常見的閘道器等設備上,就連隨身帶著走的穿戴式裝置,也都能夠用了。日本東京有家立體停車廠維運業者Famm,從一個多月前,開始試用智慧邊緣,將AI能力帶進前端停車場維修作業上,透過結合穿戴裝置與智慧邊緣技術,來幫助他們改善停車廠設施維護,甚至是加快檢修。今年也首度在Build大會上公開展出。

日本人口密度最高的東京,不只地狹人稠,車位更是一位難求,因此地面上設置許多上下層的立體停車場,雖然多數已採自動化管理,但仍需要人工定期維護,對停車廠設施零件更新或汰換,畢竟一旦稍有不慎,就可能會造成停放的車輛翻覆,嚴重甚至可能會危及駕駛的生命。

為了提高人員作業效率,Famm現在開始要求維修人員以一臺可攜式東芝迷你電腦設備,頭上並搭配類似Google Glass眼鏡裝置來進行現場的工作,更借助AI幫助他們提前預測車場設備零件的壽命,盡早進行更換作業,降低事故風險。

現在工程人員進到停車場後,人站在地面,直接以目視方式對準上下層的停車位設施,就能馬上知道哪些設備零件需要替換或進一步處置,不需要像以前再爬上爬下,作業上也更安全。

頭上的眼鏡會自動將擷取到的影像畫面回傳至操作員腰上的電腦設備,並直接從設備上進行預判後,再將判讀結果顯示在眼鏡上,維護人員馬上就能知道哪些零件需要更換。

Famm透過借助微軟Azure IoT Edge智慧邊緣服務,將它在雲端上已訓練完成的電腦視覺機器學習模型打包封裝,可以直接使用在人員身上的設備上,跟著人一起移動。因為不需要連網就能用,所以即使到了沒有網路的地方也不怕。

甚至,這家公司更將它用來排除故障,幫助維修人員找出有問題的設備或零件,加快檢修。因此,需要有更多的現場資料,來幫機器學習訓練,以提高預測的準確性。因為Azure IoT Edge是和Azure雲端一樣的容器執行環境,因此雲端上機器學習訓練完成,可以馬上套用。使用至今,不僅明顯減少了人為出錯的情況,更大幅縮短作業的時間。而以往維護工作,需要老練的維修人員靠著長年的經驗來判斷,現在即使新進的人員也能夠很快上手。


Advertisement

更多 iThome相關內容