攝影/余至浩
日月光半導體年底將啟用首座全新的水冷散熱資料中心,這座新機房不僅將成為PUE低於1.2的節能機房,還是一座擁有強大AI運算能力的AI節能機房,目標是要能應付每年1.2倍增長的AI運算需求,以因應未來兩年不斷增長的AI應用及LLM(大型語言模型)發展所需。
日月光很早展開了數位轉型,朝向智慧工廠來轉型,2018年開始導入AI,逐步將AI應用於製程中,提升良率與生產效能。日月光同年建造第一座關燈智慧工廠,並在接下來4年內將關燈工廠增加到36座。隨著AI應用日益成熟,日月光在2021年建構IAI(Industry AI)平臺,大力推動AI全民化應用,進一步將AI應用從內場域製造推向組織內部,從智慧資安、品質檢驗、智慧診斷,到智慧設計、參數最佳化以及智慧營運等領域。
日月光半導體高雄廠副總李政傑表示,目前,日月光的AI應用主要集中在製造端,結合深度學習和大數據,搭配自動化機器人技術,提升生產效能。此外,AI也應用於廠務節能減碳等環保項目。
近來火紅的生成式AI技術,日月光也開始導入,主要應用於兩方面,一是協助行政單位處理大量文書和影像,減少人力負擔;另一方面,在工程領域中,利用生成式AI生成多樣的研發樣本,幫助工程師提高研發新原型的成功率。
儘管AI需求呈現指數型成長,對機房運算需求也越來越大,可是,運算增長同時也帶來溫室氣體排放的增加,光靠現有機房設計已經難以應付其需求而必須採用新作法。
尤其近幾年,ESG永續發展已成為了企業必須重視的重要議題,日月光自己承諾2030年辦公室淨零,2050年生產製造據點淨零的目標。為了每年需降低5~10%溫室氣體排放,如何兼顧AI需求和ESG永續發展,成了日月光IT面臨的重要挑戰,所以日月光決定打造新一代水冷散熱IT機房,來應對這項挑戰。
日月光即將在高雄啟用的AI新機房,將採用Supermicro的水冷式散熱技術,由中華系統整合進行布建,在這座新機房中引進新一代水冷AI伺服器及節能技術。
李政傑表示,新機房導入水冷式散熱設計,不僅利用伺服器本身的水冷機制,讓冷水通過主機板快速帶走熱能,取代過去氣冷式機房的冷熱通道散熱方式,此外,機櫃設計上建立水冷散熱機制,整合了散熱板、冷卻分配單元(CDU)、冷卻分配分流管(CDM)以及搭配冷卻塔,可幫助其降低機房溫度、耗電量以及整體總耗能。
李政傑指出,與傳統氣冷式機房相比,新一代節能機房採用水冷散熱技術後,能耗可降低20%以上,預期PUE值將從1.51下降至1.2以下。這樣不僅節能,也有助於減少碳排放。
在這座AI機房中,未來將部署多臺AI伺服器機櫃系統,根據Supermicro提供的硬體規格,每臺AI伺服器主機內搭載了2個32核Intel CPU與8個Nvidia H100 GPU。李政傑表示,這座新機房啟用後目標是滿足年增113%的AI算力需求,未來將開發新的AI應用,用於產品生產、工程研發以及營運上,加速推動智慧製造。
熱門新聞
2024-12-03
2024-11-29
2024-12-02
2024-12-02
2024-12-03