AWS執行長Andy Jassy在第一天開場主題演講最後,在大螢幕上秀出一整張AWS雲端AI與機器學習產品路線圖,從這張圖也清楚揭露了明年將聚焦三大AI策略,全力搶攻企業雲端AI市場。(攝影/余至浩)

今年的re:Invent 全球用戶大會上,AWS進一步揭露明年雲端AI戰略布局,將鎖定三大AI策略,不只要搶推能夠大規模部署的專用推論服務,還要提供更方便好用的AI自動建置及部署工具,更要瞄準特定產業的無人載運與移動用途,搶攻企業市場。

AWS執行長Andy Jassy在首日開場近3個小時的演講,對於AI人工智慧介紹,花了最多時間。講到AWS過去一年來推出機器學習服務的表現,他更自豪地說,光是去年,就有10萬個活躍用戶在AWS上執行他們的機器學習(ML)模型,遠遠超出他們原先預期,而且遍及各行各業。

AI戰略1:大規模部署的專用推論服務

機器學習推論成為今年AWS搶攻AI另一大主軸,不只有推論用的EC2運算實例,明年還要推出一個低價且高效能的機器學習推論專用晶片Inferentia,這也是繼ARM晶片推出後,AWS最新發表的第2款自製晶片,頗有要和Google的機器學習晶片TPU打對臺的意味。攝影/余至浩

但是,有別於往年,Andy Jassy今年更看好機器學習服務在推論市場的發展,甚至他認為,未來將近9成的機器學習運算工作,都會發生在推論端,而不是訓練端。

但是在部署或執行環境上,不像訓練時要餵大量資料來訓練模型,需要有很強的運算處理能力,反觀在進行推論預測時,對於運算力要求就不用太高,甚至只需很少運算力,就能執行ML模型。因此,企業反而需要的機器學習服務,是要能以更低成本,來提供他們進行大量推論執行部署。但一直以來,並沒有專用推論服務。

對於AWS來說,顯然,這是一個龐大商機,也成為了明年搶進AI的一大主軸。所以,AWS今年正式推出第一個專用推論服務Amazon Elastic Inference,就是要讓企業能夠用更低成本的方式,來使用推論的VM,不需要付擔高額運算力費用,來降低企業大量部署的推論成本。 在使用上,單以租用一個推論VM來說,就可以提供最多36 TFLOPS浮點運算能力,換作是對照片進行推論,等於是1小時可以辨識36萬張照片。而且每小時租用最低只要0.22美元。

專用機器學習推論服務只是第一步。AWS明年還要推出一個機器學習推論專用晶片Inferentia,同時兼具備低成本與高效能推論特性,並且是由AWS自行設計完成,不僅在推論吞吐量可以達到數百個TOPS (每秒執行兆次),可以用於執行複雜度更高的推論需求,而且遠比採用傳統的CPU實例來進行推論時,還要更省下75%的推理成本。

AI戰略2:更方便好用AI建置及部署工具

自去年推出一套ML自動建置和部署工具SageMake以後,大獲好評,AWS今年在這個基礎之上,更針對各個建置、訓練階段,都有推出相應的優化功能與工具,來降低機器學習門檻。

如AWS在SageMaker上新增一個功能,就是針對訓練前推出的資料標記輔助服務Ground Truth,透過機器學習技術,來自動學習標記輸入數據,來提高訓練資料標記品質,以減少後續因為資料品質不佳,而導致直接影響模型訓練成效,或要花比原本更長的時間投入訓練。

另外,對於如果想要採用增強式學習(Reinforcement Learning)的機器學習方式,來建立、訓練和部署ML模型的話,開發人員現在也有增強學習專用的SageMaker RL服務能夠使用了。

AWS還推出了一個輕量ML模型編譯工具SageMaker Neo,能夠重新優化ML模型的效能,至少提升多達2倍,不僅不會降低準確性,而且容量變更小,占用運算資源也變少。AWS還以Apache軟體授權方式開源,讓硬體廠商可以將它放進自己的處理器和裝置。也因為可以在雲端和邊緣執行,也意味著,未來透過這套服務,可以讓輕量化後的ML模型,能夠跑在更多小型邊緣裝置上,如樹莓派單板電腦等。

有了許多方便好用的AI自動化工具,來降低AI應用門檻,就連在AI服務上,AWS今年都主推免機器學習經驗就能用的AI服務,要替企業解決AI人才荒。一共3款新AI服務,包括了Textract、Personalize及Forecast,分別是用在實體文件數位化、個人化推薦與時間性預測的使用。

不像過去要開發這方面的AI應用,企業得先找到專業AI人才,現在,透過這些現成的AI服務元件,可以大大地降低AI應用門檻,即使是不具備AI背景的開發人員,也能夠很快速用它打造企業需要的各種AI應用。甚至,其中一項Forecast服務,還是原本Amazon內部使用的ML分析預測技術,現在也全面開放企業來用。目前除了Textract仍是預覽版,其餘兩款皆已正式推出。

AWS今年還在AWS Marketplace上新增演算法市集,它是一個可以提供AI應用買賣交易的平臺,讓企業不需要自行開發,直接購買別人現成的AI演算法或ML模型來套用,就能變成自己的AI應用,而且免AI或ML專業知識與技術就能用。目前已有至少150種演算法與ML模型上架。

AI戰略3:迷你自駕遙控車DeepRacer現身

AWS今年又有驚人之舉,向大家介紹一臺AI驅動的DeepRacer迷你自駕車,大小跟玩具遙控車差不多大,但不用透過無線控制器,而是借助AI與電腦視覺技術,讓這臺車自己學會開車。甚至AWS還舉辦首屆DeepRacer盃自駕車大賽,比得是看誰可以在最短的時間內繞完一整圈迷你賽道,並廣邀各路開發好手來參賽,還在第2天主題演講開場前進行總決賽。硬體規格上, 除了內建英特爾Atom雙核心處理器,具備Wi-Fi能力,還有顆400萬畫素HD攝影鏡頭,每一次充電完,能持續使用2小時。攝影/余至浩

不只要提供簡單好用的AI工具,來吸引更多企業用戶,AWS今年又有驚人之舉,推出一臺AI驅動的迷你自駕遙控車DeepRacer,瞄準的正是這些有著自動載運,或移動需求的產業AI用途,如製造業等,就能用它打造出適合智慧工廠各式情境使用的無人搬運車,解決如人力或生產流程上遇到的難題。甚至AWS還要透過辦自駕車競賽,來吸引更多AI與機器學習人才參與,想辦法要拉攏這些產業積極加入。

這臺車的外型,雖然只有真車的1/18大,跟一臺玩具模型車差不多,而且一臺要價399美元(約臺幣1萬2千元)。但不同的是,不用透過無線控制器,這臺車就會自己開車,不需要有人遠處遙控。靠的是使用AWS機器學習服務,如SageMaker RL等,先在雲端進行訓練,再將訓練完成的ML模型,套用到DeepRacer車上來驗證其模型推論的成效,並反覆優化,讓車子可以學會自己開。而且不只開放場域,未來這臺車也能運用在更多封閉場域,如物流倉儲、工廠、醫院及賣場等,幫助企業打造屬於自身場域的無人車應用。

相關報導  殺入敵陣!AWS企業市場新戰略


Advertisement

更多 iThome相關內容