德明科技大學計算機中心黃志泰主任

德明財經科技大學致力推動資料科學分析與 AI 人工智慧應用課程,於今年導入雙子星雲端 Gemini AI Console 至 AI 實作教學課程中,搭配 GPU Partitioning 分割共享技術,使既有的 8 張 Nvidia Tesla V100 的 GPU 運算卡,可以同時間分配給 40 至 50 個學生使用。電算中心黃志泰主任表示,該系統建置完畢後,讓整體 AI 人工智慧教學單純化,師生可以專注在 AI 人工智慧的模型設計、訓練與建立,不用花費寶貴的時間等待運算資源,以及額外學習系統的操作面,加快踏入 AI 人工智慧與機器學習的應用領域。

位於台北內湖科學園區旁的德明財經科技大學(以下簡稱德明科大),創立於民國 54 年,以國父 孫中山先生之譜名「德明」為校名,是全國唯一以「財經」命名,並強調以培訓實務技術的科技大學。該校在 105 年就已洞察數位金融、AI 人工智慧是未來方向,因此早先一步成立「金融科技 (Fintech) 跨領域專班」,該專班為因應 AI 人工智慧發展與人才的需求,於 107 年轉型成為全台首創之「AI 跨領域專班」,致力推動資料科學以及 AI 人工智慧課程,並結合業師協同教學長達一學年的校外實習與產學合作,以強化學生在數位金融、數據分析,以及人工智慧在實務上的應用技術。

透過 GPU 分享技術,解決資源分配不均與搶佔問題

黃志泰主任說明,其實校方早在 107 年就已導入 AI 的教學環境,但當時沒有一個完整的系統幫助進行資源管理,導致在推動 AI 實作教學上遇到問題,由於一個班級有 40 至 50 名學生,不可能讓這些學生輪流排隊使用 GPU 資源,雖然後來有透過 Docker 容器虛擬化的方式來提供多人同時使用,但仍會遇到資源搶佔的問題。他表示,當初其實一直想要尋找可以有效分配 GPU 資源的解決方案,但那時都沒有相關技術,直到今年 (2021) 雙子星雲端推出 GPU Partitioning 技術,且實際到校內進行 PoC 部署試用,才確定這個使用情境就是他們所需要的。

友善操作環境,降低進入 AI 教學門檻,加速進行人才培育

他也強調,對於剛接觸 AI 人工智慧的初學者來說,若僅透過 Docker 來使用資源,需要耗費近半學期的時間學習相關技術,甚至學生依然不懂自己現在是在 Docker 容器內,還是在本機環境操作,且光透過 Docker 運行時,若單一卡上有任一 Docker 容器出錯,其他容器也會受影響,甚至系統管理員依然無法針對 GPU 運算資源進行有效的分配與管理。在導入 AI Console 之後,其內建的各項管理機制,可讓系統管理員容易監控與管理,最重要的是擁有便利的操作畫面,以及對使用者保有如獨立系統般的操作環境,使學生上課時可以專注在 AI 人工智慧的實作技術,並能夠將 GPU 運算資源做實際有效的分配,有別於以往獨佔資源的機制。

德明科大擁有為數眾多的人工智慧與高效能運算 Nvidia Tesla V100 GPU 卡片,配置在技嘉、HPE、華碩等 GPU 伺服器上,並結合教育部優化技職校院實作環境計畫,投入兩千多萬建置 AI 實訓基地與網路資料中心,並建置 10Gbps 光纖網路交換環境,使全校師生均能在高效能的網路環境之下,充分享受 GPU 運算資源。為了使整體 AI 教學環境可以更便於使用與管理,於今年 (2021) 引進雙子星雲端運算公司的 Gemini AI Console,搭配 8 張既有的 Nvidia Tesla V100 GPU 卡片,配置在 Gigabyte G481 伺服器上,使 GPU 運算資源可以公平分配給課堂上的每一個學生,且學生可以很簡單地自行操作,大幅降低師生進入核心 AI 教學情境的門檻。該系統也預計提供給校內師生參與相關專題製作、競賽,以及 AI 相關產學合作,以強化校方在數位金融、資料科學分析與 AI 人工智慧上實務應用的人才培育。

AI 產業智能應用聯盟,降低業界人工智能導入門檻

德明科大已針對資料科學、AI 人工智慧相關領域,自 108 年度起,陸續推動相關課程規劃,包含程式設計列為全校各系必修課程,並組成德明 AI 種子教師,在 AI 跨領域專班內,開設 AI 人工智慧、機器學習與深度學習、大數據資料庫、資料採礦與大數據分析、財經大數據分析、AI 金融投資交易、AI 人工智慧精準行銷等實務課程,並與知名企業如王道銀行、元大證券、三商電腦、精誠資訊、IBM 等公司合作,引入業師協同教學,以強化技術在實務上的應用。

黃志泰主任表示,目前校方也有與內湖科學園區協會合作,著手組成「AI 產業智能應用聯盟」,預計由德明科大提供場地與設備,提供業界一個實際的環境接觸 AI 人工智慧技術,讓欲導入 AI 的中小企業可以在這裡學習如何在實際場域應用,希望可以大幅降低企業進入 AI 的門檻。而在 AI 產學研發方面,有與警察單位合作進行智能靶場研究,由於打靶後會產生含鉛的粉塵,他透過 AI 監控空氣、壓力、污染等指數,自動化調整打靶的室內環境負壓等系統,讓室內可以維持在一個安全的環境,除此之外,也正著手進行口腔疾病智能預診斷系統研發,讓 AI 相關研究與應用可以落實在各種領域內。

熱門新聞

Advertisement