對於機器學習相關的雲端服務,AWS從底層IT基礎架構服務、中間的開發平臺服務,到上層的人工智慧應用服務,都推出了解決方案,2019年底,他們新發表了整合式開發工具SageMaker Studio,以及多種高階應用服務,例如:Kendra、Fraud Detector、CodeGuru。

機器學習是當前企業發展AI應用的重要技術,在AWS今年re:invent大會上,該公司執行長Andy Jassy也證實這股趨勢正在持續發展、擴張當中,因為,該類雲端服務目前正是AWS成長最快的業務應用,他表示,AWS目前已擁有數萬名機器學習服務用戶,數量是市占第二廠商的兩倍。

隨後,Andy Jassy也針對AWS的各種機器學習服務,區隔出三大類型,逐一介紹最新進展。它們分別是:位於底層的機器學習框架與基礎架構,居中的機器學習服務,以及上層的人工智慧服務。

以底層而言,Andy Jassy自豪地表示,全球有85%的TensorFlow框架,是在AWS的雲端服務環境當中執行,而在執行機器學習訓練的處理作業上,若以幾種針對AWS環境最佳化調校的主要機器學習框架,搭配AWS提供的GPU執行個體P3,來進行Mask R-CNN深度學習模型的訓練,比起用戶自行搭建硬體設備來執行相關作業,可節省2成處理時間。

位於中間層的AWS機器學習解決方案,主要是全代管機器學習服務SageMaker,它是在2017年舉行的re:Invent大會推出,資料科學家與開發人員可運用這套雲端服務,輕鬆地進行機器學習模型的建構、訓練與部署。到了2018年,SageMaker已陸續增添50種以上的功能。

在2019年底舉行的re:Invent大會,AWS繼續發布SageMaker相關的新功能,最受眾人矚目的部分,就是用於機器學習的整合式開發環境(IDE),名為SageMaker Studio,並基於這套工具,提供Notebooks、Experiments、Autopilot、Debugger、Model Monitor等特色,支援開發與部署機器學習模型的自動化執行、整合、除錯、監控。

AWS在機器學習產品線的頂層,設置了人工智慧應用服務(AI Services),這裡所提供的解決方案,可因應不懂機器學習技術運作方式的用戶。

早先他們陸續推出影像辨識、語音辨識、文字辨識,以及對話機器人、個人化推薦、預測等服務。到了今年,他們提供了更多與企業日常業務運作更密切相關的功能項目,像是詐騙偵測、程式碼檢視與剖析、往來客戶聯絡分析,以及企業內部搜尋。

因應機器學習開發流程各階段的需求,率先推出網頁版IDE工具

 

因應簡化開發機器學習模型的需求,AWS提供全代管服務SageMaker,他們最近更推出延伸的整合式開發環境SageMaker Studio,開發人員能在此撰寫程式碼、追蹤實驗結果、執行除錯與監控。

在今年re:Invent大會推出的機器學習各項新功能當中,SageMaker Studio無疑是針對開發人員與資料科學家的重要特色,號稱能大幅提升生產力。

基本上,它提供了單一操作介面,能讓用戶著手進行機器學習模型的建立、除錯、訓練、部署、監控、維運,並提供多種功能,像是:伸縮式腳本套用、實驗測試管理、模型自動建立、除錯、組態剖析,以及模型飄移偵測。

整體而言,在這套整合式開發工具當中,開發人員可以查看原始程式碼、相依性、文件,以及用於行動App的圖片等應用程式資產,整理出彼此之間的組織結構。同時,他們也能建立專案資料夾,管理資料集與用於自動化執行的筆記本,並與其他人共同討論筆記本的設計與後續處理的結果。

運用與亞馬遜相同的機器學習技術,發展出更通用的人工智慧服務

關於人工智慧的應用需求,其實並不只是提供開發機器學習的輔助機制,對於不諳這類技術運作原理與相關管理維護作業的用戶而言,其實,也能藉助雲端業者提供的高階代管服務,即可善用機器學習技術來簡化各種工作,為使用者提供更多元的AI操作體驗。

Fraud Detector

在今年底最新發表的人工智慧應用服務當中,Andy Jassy最先介紹的是詐騙偵測服務Amazon Fraud Detector,它能協助企業即時識別線上身分與支付詐騙行為,而且,這裡面採用的判別技術,是由本身就在經營電子商務的亞馬遜(Amazon.com)所發展出來的。

這套服務會同時使用詐欺與合法交易的歷史資料,對其執行機器學習模型的建構、訓練與部署,能為用戶提供即時的詐騙風險預測。在試用初期,用戶只需將一些資料上傳到S3,像是與交易相關的電子郵件位址、IP位址,也可自行增添帳單地址、電話號碼,接著執行自定的機器學習模型訓練。

CodeGuru

Andy Jassy第二個揭露的人工智慧應用服務,是針對軟體開發人員的程式碼審視(code reviews),以及應用程式剖析(application profiling)需求,用戶可運用AWS提供的機器學習技術,取得程式碼自動化分析的機制,但這裡所要提供的功能,不只是突顯既有程式碼的撰寫錯誤、品質不佳與效能執行問題,還要找出耗費最多IT資源的程式碼片段。

開發人員要怎麼使用CodeGuru來審視程式碼?他們仍然照常將程式碼提交到GitHub、CodeCommit等軟體開發倉庫服務,然後再將CodeGuru設為程式碼審視人員之一即可,不需調整原本的作業流程或額外安裝軟體。隨後CodeGuru會接收到程式碼下拉的請求,並且運用系統預先訓練好的模型,自動對用戶程式碼執行評估,而這些完成訓練的機器學習模型,所根據的程式碼資料主要有兩大來源:亞馬遜數十年來所審視的程式碼,以及GitHub排名前十大的開放原始碼軟體專案。

處理過程中,CodeGuru會針對程式碼的品質來分析程式碼的異動,如果發現問題,會在程式碼下拉請求當中,增添一段評論敘述,讓開發者能夠清楚看到該段程式碼所在的行數位置、問題類型,以及系統推薦的修正方式(像是範例程式碼與相關說明文件的連結)。

而在應用程式剖析的部份,CodeGuru會利用機器學習技術,找出最耗費雲端服務資源的程式碼。為了要達成監控的目的,用戶須在他們開發的應用程式當中,安裝小型、輕量的代理程式,讓CodeGuru能夠以5分鐘為頻率,定期觀察應用程式執行時的狀態,以及剖析程式碼的組態。而這樣的觀測會記錄CPU利用率與存取延遲,以及直接對應的程式碼位置,最後會產生圖表,協助用戶找到那些導致效能瓶頸的程式碼片段。

目前有哪些企業採用CodeGuru?AWS表示,亞馬遜內部團隊正在使用CodeGuru,他們剖析的應用程式數量已經超過8萬支;而在2017年到2018年之間,這套服務提供給亞馬遜的內部版本,也協助隸屬於該公司消費業務的Amazon Prime Day團隊,大幅提升應用程式的執行效率──CPU利用率增加了3.25倍,在Amazon會員狂歡購物節期間,他們需管理的執行個體數量也隨之減少,整體成本降低近4成。

Connect Lens

第三個AWS今年主推的人工智慧應用服務,是針對AWS客戶聯絡中心雲端服務Amazon Connect,所提供的分析服務Contact Lens,當中運用了機器學習的技術,讓用戶能夠從與顧客的對話裡面,理解他們回饋的意見、認知趨勢與價值,並藉此改善顧客互動體驗。

目前AWS公布多家先期採用這項顧客資料分析服務的企業,包括:財務軟體公司Intuit、金融投資財務管理公司John Hancock、媒體集團News Corp、個人財富與利益解決方案廠商Accolade,以及行動電信與能源供應商amaysim。

基本上,單就Amazon Connect而言,它採用的技術,與目前支撐亞馬遜顧客服務的技術是相同的,號稱能以更低的成本讓用戶經營他們的客戶聯絡中心,而且能支援數千個值機員的使用。若這項服務同時搭配Contact Lens使用,AWS表示,客戶服務主管可以透過Amazon Connect網頁主控臺介面,毋需具備程式撰寫與機器學習等技術專業,即可進行多種功能的操作。例如,從顧客對話裡面,發現新興的主題與趨勢,並對客戶來電與對話文字記錄,快速實施全文檢索,以便找出解決顧客的疑難雜症,同時,還能提供來電與文字對話的分析,進而改善客服人員的效能。

除了高度整合Amazon Connect這項賣點,Contact Lens所產出的詮釋資料,像是文字謄本、意見、分類標籤,都是依照妥善定義的資料綱要來儲存,而且會放置在用戶的S3資料桶當中。企業可以輕易匯出這些資訊,並運用Quicksight、Tableau這類圖表分析工具,將其產生進一步解析,以及結合其他來源的資料。

Kendra

在今年re:Invent大會最後介紹的人工智慧應用服務,是提供企業搜尋功能的Amazon Kendra,裡面運用了自然語言處理,以及其他機器學習技巧,能夠統合企業內部的多個資料孤島(data silos),並且持續提供高品質的通用查詢結果,AWS認為,相較於目前透過關鍵字查詢而得到的隨機連結列表,這項新的服務可以提供更好的選擇。

有了Kendra,企業的員工若要進行內部資料搜尋,可以運用自然語言的表達方式來進行查詢,例如,他們可以鍵入問題內容敘述,而不只是單純輸入關鍵字,而系統也能夠用對話的方式回答問題,並且提供相關的服務與網站連結。

同時,這樣的服務,能夠橫跨多種應用系統、網站入口與維基共筆內容管理系統(Wiki)進行整合,用戶只需在AWS管理主控臺上進行簡易操作,例如指出需要查詢的文件儲存庫位置,Kendra就會匯集所有資料,以便建構集中的索引。

在文件安全控管的部份,這項服務會掃描文件當中的許可權限,可確保搜尋結果僅列出該名使用者能存取的文件,以便符合企業既有的文件存取政策。

想要橫跨檔案共享區、資料庫,以及共用文件庫,來進行全文檢索,過去我們可能需建置搜尋引擎或知識管理系統,但通常只能透過輸入關鍵字來查詢(圖左),今年AWS推出Amazon Kendra的內部搜尋服務,可同時支援自然語言處理的問答(圖右)。

繼續簡化機器學習開發與應用的難度,降低不同技術層級的操作門檻

整體而言,今年AWS在機器學習領域所推出的雲端服務,在應用的格局上,都有進一步突破。

例如,在SageMaker的機器學習開發平臺服務,AWS提供了功能豐富的整合式開發工具,能夠大幅簡化機器學習模型的設計與測試流程。

而在人工智慧應用服務的部份,AWS今年增設了更多解決方案,採用與母公司亞馬遜相同的機器學習技術,除了今年陸續上線的個人化推薦與預測服務,他們也預告未來將發布與企業商務運作需求密切相關的服務,涵蓋了顧客身分辨識、顧客往來分析、應用程式效率與成本節約,以及內部資料搜尋等層面,繼續為雲端服務業者的機器學習與人工智慧技術,提供更多專業領域的應用服務選擇。

 相關報導  AWS 2020雲端大戰略


Advertisement

更多 iThome相關內容