【AWS re:Invent 2018直擊】為爭奪雲端AI大餅，AWS狂推新機器學習服務，更多客製化ML工具與專用推論晶片登場

【美國拉斯維加斯AWS re:Invent大會現場報導】

Amazon旗下雲端服務龍頭AWS，每年冬天在美國拉斯維加斯舉行的re:Invent 全球用戶大會上，都會發表最新雲端產品服務，不過今年很不一樣，在28日keynote大會上，AWS一口氣發布超過20款雲端產品，其中半數都與雲端AI與機器學習切身相關，不只在客製化的AI與機器學習服務有相當多的著墨，還有針對推出一年的SageMaker加入更多強大進階功能，甚至還推出第一款專用的機器學習推論晶片，以及加入增強式機器學習算法的支援。

今年re:Invent 2018活動正式邁入第七屆，參加人數再度創新高，達到5,0000人，比去年還多了將近快一萬人，而今年活動最大的重頭戲，就是28日登場的主題演講，一樣是由AWS執行長Andy Jassy開場。但不同於往年，他今天近3個小時的演講，很長時間都在談論機器學習與AI，講到AWS過去一年來推出機器學習服務的表現，他更自豪地說，光是去年，就有10萬個活躍用戶在AWS上執行他們的機器學習（ML）模型，遠遠超出他們原先預期，而且遍及各行各業。

企業對於雲端AI與機器學習需求的大幅成長，也大大的影響到了AWS今年對這塊市場的布局更加積極，光是這天發布的超過20款以上的雲端產品，最少10個以上都是與AI與機器學習相關服務。

如果是以產品定位來分，Andy Jassy表示，他們自己將機器學習分三層，最底層是基礎設施與ML框架層，中間層是ML服務，最上層是AI服務，這三層都是軟體堆疊而成。AWS今年針對每一層所面對的用戶需求，都有推出了各種解決方案，幫助他們解決開發機器學習遇到的共通難題。

以ML基礎架構來說，AWS早前除了推出了各種加速運算GPU的EC2服務，如P3、P3dn，來縮短資料訓練的時間，也對於各種主流ML框架持續優化改進，尤其是在AWS上跑機器學習的任務有85%使用Tensorflow，但是TensorFlow有一大挑戰，就是擴充性，例如當擴充到256個GPU時的擴充效率只有65％，因此，AWS改提供一個TensorFlow優化版，可以把擴充效率提高到90%，這意思是，原來需要30分鐘才執行完成的訓練任務，現在可以用不到一半時間，只須14分鐘就完成。

但是機器學習訓練只是過程，更重要的是在後面要用訓練完後的ML模型來進行推論（inference）。為了滿足更高使用量的推論需求，AWS也推出了一個推論專用的EC2運算實例Amazon Elastic Inference，可以提供最多36 TFLOPS浮點運算能力，換作是對照片進行推論，等於是每小時可以完成36萬張照片推論。每小時租用最低只要0.22美元。

甚至為了提供更高GPU推論運算能力與更低延遲需求，AWS明年還要推出一個更高效能的機器學習推論專用晶片AWS Inferentia，這也是稍早前ARM 晶片推出後，AWS最新推出的第2款自製晶片。頗有要和Google的機器學習晶片TPU較勁意味。

至於，AWS去年推出ML自動建置和部署工具SageMaker後，如今這項服務已有超過上萬家企業採用。在這次活動上，AWS也推出了更多進階服務。如提高訓練資料標記品質的標記輔助服務Ground Truth，以及還有推出一個AWS Marketplace機器學習演算法市集，能讓個人或企業能在這個市集上進行ML模型或演算法的買賣交易，目前已有至少150種演算法與模型上架，使用者購買之後，亦可直接透過SageMaker來完成模型部署。

而且SageMaker不只能用在監督式與非監督式機器學習，現在連增強式學習（Reinforcement learning）的機器學習也都能透過SageMaker RL這個新服務來完成了。AWS還因此推出一輛自駕迷你車AWS DeepRacer，可以搭配來使用，讓開發者能利用SageMaker RL  來建立、訓練和部署增強式學習演算法，以便讓這部車可以自己完成開車、直線過彎等動作，不需要人遠處遙控。DeepRacer每臺正式售價399美元

這輛車外型相當具有科技感，但是大小只有真車的1/18大，硬體規格上，採用英特爾Atom雙核處理器，車上也配有HD攝影鏡頭、搭配一個方向偵測陀螺儀與加速計。甚至於，AWS還要舉辦AWS DeepRacer賽車比賽，並廣邀各路開發好手來參賽，希望能吸引更多AI與機器學習人才加入，一起開發出各種自駕應用。

雖然，AWS今年AI產品策略，特別著重在提供更多機器學習自動化、管理及部署工具，來減少使用者建立、測試和部署ML模型的時間，不過在這之餘，還是有推出幾款AI新服務，包括能提供更精準OCR文字識別的Amazon Textract以及個人化推薦等，還有一個針對時間序列的預測性服務Amazon Forecast，這是原本Amazon使用的分析技術，現在一般零售業者也能夠用得到了。

除了機器學習與AI是一大看點外，今年在混合雲產品上，延續去年AWS與VMware的合作，今年雙方也有更緊密合作的重大產品發布，由AWS推出自己設計的整櫃式的伺服器，稱為AWS Outposts，讓企業可以直接把AWS雲，放進自己資料中心內，AWS設計的硬體，可安裝AWS原生平臺，或是VMware Cloud on AWS版。

在資料儲存上，針對雲端資料儲存s3，Amazon明年將推出超低價的深度歸檔服務Glacier Deep Aachive，價格是原本S3 Glacier的1/4，每月每GB只須0.00099美元，也就是1TB每月1美元左右（S3每TB每月大概要20-25美元)，更適合用於長期存檔的使用。除了高持久，也兼具9個9個資料耐用性。

新推出的原生雲端檔案系統服務Amazon FSx，也終於正式支援了Windows檔案伺服器，對於Windows服務提供了更高相容性，如Active Directory和Windows資源管理器等。對於企業來說，以後想要透過它與本地Windows應用程式協同作業，將變得更容易。另一個則是專為高度運算型的工作負載推出的檔案服務Amazon FSx for Lustre，具備更快IOPS資料存取、更少延遲，與具備更高吞吐量。

為加速資料湖的建置，AWS這次還推出了一個資料湖建置工具AWS Lake Formation，不僅提供建置工具，還借助機器學習算法，加快資料清理、分類與移動數據的過程，可以讓企業建置時間從數月縮短到數日以內。

除此之外，為了因應IoT、邊緣運算的興起，產生新的資料庫類型存取需求，AWS今天也推出了新的資料庫服務Timestream來回應，AWS宣稱可以提供比關連式資料庫快1千倍的時間序列資料存取，讓資料庫更容易存取和處理這些時間變動數據(如IoT感測器資料、DevOps資料等)，來做為後續IoT分析或大數據使用。

雖然近期加密貨幣的聲勢逐漸下滑，但AWS反到看好企業雲端區塊鏈潛在商機，而大舉搶進，今天一次就推出兩種全新區塊鏈管理服務。第一個是針對中心化信任的帳本存取的資料庫服務，稱為Amazon QLDB（Quantum Ledger Database），這也是AWS用於內部大量伺服器管理用的工具，可以提供比傳統資料庫執行快2到3倍資料處理速度，可被用於如醫療、製造業、運輸記錄追蹤等，目前已釋出預覽版。

另一個則是能同時支援Hyperledger和Ethereum公/私有鏈兩大框架的Amazon託管區塊鏈服務，讓企業能用來建立一個去中心化的區塊鏈網路，而且是能依需求規模自動彈性擴展，可用於去中心化的交易。這些無法更動的資料後續也能放進Amazon QLDB來做更進階的分析，提供趨勢預測。