現今,人工智慧技術快速進步,成為全球關注的創新科技,無論產業或學界均積極打造高效能的 AI 平台,大都選擇專為 AI設計的高效能 NVIDIA GPU 卡或 AI 電腦,來滿足發展創新服務或培育人才之用。以培養專業新聞人才享譽國際的世新大學,運用多張 NVIDIA TeslaV100、P40 等高效能 GPU 卡,建置符合虛擬電腦教室、影片製作、AI 專案需求的新一代世新學習雲平台,讓有限資源發揮最大效益。

世新大學圖資長邱孟佑指出, 因應世界潮流,世新大學各系所均開始投入以 AI 技術為核心的研究專案,除彌補產業研發能量不足外,也可培育企業所需的 AI 人才。為此,我們打造整合Nvidia V100、P40 等高效能 GPU 卡的虛擬桌面環境-世新學習雲平台,除讓虛擬電腦教室的使用頻率大幅提升,也能機動調整影片製作、AI 訓練所需的運算資源,整體表現令人相當滿意。建構高效能 AI 平台 滿足多元應用需求自創校之初,世新大學即以「德智兼修,手腦並用」為辦學宗旨,致力培養品德與智慧並重、理論與實務合一的專業人才。隨著時代變化與思潮的演進,該校從致力培育新聞人才逐漸發展成「全傳播」的高等學府,進而邁向全方位的綜合大學。

世新大學向來不吝嗇引進創新科技,如多年前全校各教室部署 e 化講桌、APP 智慧校園、數位化圖書館等滿足老師多元教學與學生學習之需求。鑑於校內現有傳統電腦教室的維運及管理過程相當複雜,也無法滿足學生課後製作報告的使用需求,因此有打造虛擬電腦教室的急迫性。其次,新聞傳播學院因有製作大量數位影片與算圖需求、管理學院亦積極投入大數據與 AI 專案研究,兩者均需要高效能 GPU 顯示卡協助。為一次解決前述三大問題,且整合校內寶貴資訊資源,該校決定在 2018 年啟動以虛擬桌面環境打造世新學習雲平台的資訊專案。

邱孟佑說,學校的年度預算,若只是將預算分配給各系所自行購買 GPU 卡,大概僅能購買運算能力基本款的消費型 GPU 卡,並預期資源使用也會分散。相較之下,由圖書資訊處整合經費,以虛擬桌面環境搭配高效能的伺服器及GPU 顯示卡,除可縮短影片製作、AI 專案計算時間外,也能滿足 AI 課程教學使用,避免發生寶貴資源閒置的狀況發生。因此,在透過公開招標程序後,最終由經驗豐富、技術能力強的泰瑩科技得標,協助本校建置能夠滿足教學、影片製作、AI 專案等三大需求的世新學習雲平台。

專為人工運算設計鎖定 NVIDIA Tesla V100、P40世新大學在衡量各系需求與未來展望,在泰瑩科技協助資源規劃配置與建置下,世新學習雲平台中安裝 14 張 NVIDIA GPU 卡,並且部署245 U虛擬桌面環境。其中,185 U虛擬桌面環境提供給一般教學、學生課後學習之用,另外 35U虛擬桌面搭配 6 張 NVIDIA Tesla P40 GPU 卡,專門提供給有影片製作需求的專案使用。最後,

25 U虛擬桌面搭配 8 張 Nvidia Tesla V100 GPU卡,則分配給 AI 專案使用,這部分將採取專案申請制,每次使用時間為 2 週,避免寶貴運算資源被佔用。

NVIDIA Tesla V100 GPU 卡是專為加快人工智慧、HPC 和繪圖運算速度而設計的產品,採用NVIDIA Volta 架構,單一 GPU 即可展現媲美 100個 CPU 的效能。至於 NVIDIA Tesla P40 亦具有每秒 47 兆次運算(TOPS)的推論效能、INT8 精度與 24 GB 的內建記憶體,能讓人工智慧應用程式享有不斷間斷的運算效能。

「其實光從規格來看,無論是 NVIDIA TeslaV100 或 NVIDIA Tesla P40 GPU 卡,浮點運算能力都相當強悍,均能滿足 AI 專案或者影片製作的需求。」邱孟佑解釋:「由於我們首次引進 NVIDIA GPU 卡,在考量預算分配下,我們將NVIDIA Tesla V100 GPU 卡用於 AI 專案、NVIDIATesla P40 GPU 用於影片製作,未來將會依照實際使用狀況進行調配。」

降低設備維護成本 世新學習雲平台成效佳世新學習雲平台於 2019 年 9 月正式上線時,泰瑩科技亦協助建置一套虛擬電腦教室的管理機制,除能確保虛擬桌面在上課時間,優先分配給老師教學使用外,也具備偵測與監控功能。此舉,除能避免虛擬桌面資源被佔用外,也有助於提升整體使用頻率。至於 AI 專案部分,目前已有車牌辨識、影像視覺專案申請使用,且展現出相當不錯運算成果,有助於吸引更多 AI 專案加入。

邱孟佑指出,虛擬電腦教室上線之後,確實大幅降低設備維護與軟體安裝配置時間,也讓學生在課外時間可持續使用學校的軟體與硬體資源。另外,我們也會持續蒐集各系所的使用經驗,彈性調整世新學習雲平台的 GPU 資源配置,以便能夠滿足各種專案需求。

在世新大學圖書資訊處規劃中,未來也會將各個教室中的 e 化講桌,改以虛擬桌面方式呈現,擴大世新學習雲平台的應用範疇。屆時亦將根據世新學習雲平台上的資源使用狀況,調整資源配置貨擴充伺服器與 NVIDIA GPU 卡的數量,讓全校師生都能享受雲端服務帶來的各種優點。


Advertisement

更多 iThome相關內容