GMI Cloud將在臺以7千顆Nvidia GPU建置AI Factory，明年第一季啟用

2023年成立於美國矽谷的GMI Cloud，以提供GPU雲端運算資源為主，今天(11/18)宣布將投入5億美元，約台幣160億元在臺灣建置AI Factory，以7,000顆Nvidia GPU組成算力資源，預計於明年第一季建置完成。GMI Cloud創辦人暨執行長葉威延宣示要成為AI的下一個TSMC。

葉威延指出，GMI Cloud的規畫分為三期，逐期擴建產能，第一期先在臺灣投入160億元建置AI Factory，第二期將在北美建立3倍大的GPU集群，投資約台幣500億元，未來3年內建置1.5GW電力的資料中心，預估到2030年全球AI建設和需求將會提升10倍，因此未來的規畫是讓客戶可以快速使用AI。

葉威延表示，GMI Cloud是Nvidia唯6家的Reference Platform partner，在亞洲地區則是唯3的Reference Platform partner。相較於其他業者提供算力資源，GMI Cloud的目標是提供客戶垂直的鏈路，從算力、平臺、模型服務、工作流程到最終的方案，為GMI Cloud在全球的第9個資料中心，第一個AI Factory。

GMI Cloud將在台灣建置的AI Factory，位於台灣大哥大在桃園的機房改建而來，將採用7,000顆Blackwell GB300、NVLink高速連接技術，相當於一秒可處理200萬token的超級電腦。葉威延指出，7,000顆GB300的算力相當於10萬顆的H100，例如先前Llama 3花費6個月的時間訓練完成，這座AI Factory只需花費2周就能完成。

這座AI Factory主要鎖定大規模推論、模型訓練及AI應用開發。不只是AI，葉威延表示，過去需要複雜運算的科學研究，例如預測未來災害如颱風的動向，也可以透過這個超算中心來模擬進行預測其動向。

他表示，目前第一期的AI Factory算力能量已100%被搶購完成，第二期計畫也達到50%的算力能量，未來會繼續擴充算力資源。

GMI Cloud也在今天分享其客戶使用AI Factory的情形，例如趨勢科技和Magna AI在虛擬的環境中模擬藍隊、紅隊的資安攻防，緯謙在智慧製造透過數位孿生模擬，提升2到3成的生產力。

葉威延也揭露，GMI Cloud已邀請國外的AI業者，例如美國知名的Reflection AI將其模型技術落地在臺灣，結合本地的資料，服務在地的企業或政府。

未來GMI Cloud的AI Factory潛在的客戶包含模型訓練公司、新創業者，或是想開發內部GPT應用的一般企業，聚焦的產業包括製造業、電信業、金融業、電子商務、影音娛樂產業等等，除了不同規模的企業，也有3萬多位的創作者使用，目前已有知名的YouTuber使用其提供的模型服務進行創作。

葉威延談到AI Factory的願景，他表示，透過AI Factory提供的模型服務，不只是企業可以使用，AI Factory也能讓使用者實現他們的想法，

「大家有任何的想法，都可以做自己的AI產品」，葉威延以產生自己的影音App為例，傳統上需要複雜的開發過程，從分配GPU資源，不斷測試適合的模型，過程中需要基礎架構工程師、網路工程師、儲存工程師、模型工程師共同參與，我們將其平臺化，透過3個模型組成的工作流程，從LLM、影像、影片生成，簡化開發流程，將原本需要數個月時間開發的專案，縮短為幾周完成的專案。