蔡明順：不只企業靠自動化技術加速AI開發，AI學校也用MLOPs三年了

臺灣人工智慧學校校務長蔡明順今（29日）在一場線上會議上指出，近年深度學習崛起，許多企業擁抱AI，但卻面臨AI開發和部署速度不夠快的問題。他提出5種能加速採用AI的自動化技術，像是MLOps、AutoML、AIOps等，但他特別推薦能協助跨部門合作的MLOps。他更透露，臺灣人工智慧學校3年多來，都採用MLOps服務來優化上百位學員的開發需求和資源調度工作。

深度學習崛起，帶動企業擁抱AI

「Software 2.0時代已經來臨！」臺灣人工智慧學校校務長蔡明順說道。自1970年代出現商用軟體以來，寫程式一直是人類的專利，是Software 1.0的象徵，而2000年代網際網路興起，更把商用軟體推向數十億使用者，成為Software 1.0時代高峰。但2012年一場ImageNet大賽，深度學習崛起，揭開Software 2.0序幕，寫程式不再是人類專利，而將由深度學習主導。蔡明順直言，這個趨勢，甚至會成為第四波工業革命的關鍵。

深度學習的崛起，也影響市場發展。他指出，過去20年來的網際網路經濟，推波助瀾扶植出今日的AI巨頭，「比如1996年誕生的Amazon、1999年的Google、2004年的臉書，以及在2000年前後成立的騰訊、阿里巴巴。」以網際網路起家的這些科技大廠，紛紛押寶AI，也帶動一般企業投資AI，國外更預估，未來20年深度學習產生的市值，將超過網際網路10兆美元。

企業發展AI有6大關鍵，但企業花最多時間建置基礎建設

AI儼然成為企業標配，但企業要如何運用科技，促成商業發展？蔡明順整理出企業發展AI的6大關鍵，這些重點涵蓋基礎建設階段，以及用資料變現的生態系統階段。在基礎建設中，企業必須定義問題、找出合適的使用場域，並建立專屬資料庫。在生態系統階段，則有演算法、應用商模和資安法規等3要素，來讓企業將資料變現。

蔡明順解釋，基礎建設是企業發展AI最關鍵的階段，企業必須制定好資料處理流程、清理可分析資料，並規範出各類資料的存放位置。但他也指出，企業在這個階段反而花了8成時間才能做好，因此得仰賴自動化技術來加速。

用自動化技術加速AI開發、部署和管理，MLOps不容忽視

他也在今年的臺灣企業AI趨勢報告中，盤點5項能加速AI模型開發和部署的自動化技術，包含AutoML、AIOps、MLOps、數據虛擬化，以及低程式碼或無程式碼工具。進一步來說，AutoML平臺能加速企業實驗和試錯，AIOps則能協助DevOps團隊和使用數據（DataOps）的團隊自動管理IT基礎建設，MLOps則可促進跨部門的團隊協作，而數據虛擬化平臺則能保持開發靈活性，方便管理、檢視數據。最後，低程式碼和無程式碼工具可簡化AI的建模和部署。

在這些自動化技術中，他特別推薦MLOps，因為它能促進跨部門協作、形成ML生產鏈。一般來說，企業執行一個AI專案時，會有多種角色參與，像是資料工程師、機器學習工程師、業務分析師、DevOps團隊、App開發者等，來進行資料前處理、模型開發、訓練和評估，以及後續的模型部署、使用、商業化和監控等。

而MLOps可優化ML工作流程，比如在準備開發的階段，能半自動化或自動化處理配置、數據收集和特徵提取，來分攤SI、資料工程師與資料科學家的工作量。又或是在模型訓練階段，能自動化撰寫ML程式碼、管理機器學習資源，緩解資料科學家和IT人員的負荷。（如下圖）

不過，他也強調，MLOps結合AIOps能協助AI落地。因為，AIOps用機器學習來改善IT基礎建設，協助DevOps團隊和DataOps團隊監測AI開發環境是否正常，而MLOps則將模型開發、部署等流程標準化管理，還能監控模型上線後的表現，因此蔡明順認為，兩者結合能加速AI落地。

AI學校也用MLOps來管理學員ML資源

他也透露，自2018年1月開始，臺灣人工智慧學校就找來專攻MLOps的臺灣新創InfuseAI，採用其服務來管理數據虛擬化、資源配置和工作負載等項目。這是因為，臺灣人工智慧學校的技術專班要求每位學員動手實作ML專案，每班多達100人至300人，需自動化技術協助學員訓練模型。在算力部分，AI學校在全臺配置了66臺GPU伺服器（共512張顯卡），每位學員都配到1張卡來實作。當學員進行分組專題時，幾位同學的顯卡得分配一起使用，「這需要重新進行資源配置，得靠MLOps優化，」蔡明順說。