Nvidia執行長黃仁勳在今天(5/19)Computex前夕的主題演說中宣布,將和鴻海、台積電合作在臺灣建置AI Factory,加速國內的AI基礎建設,同時也發表RTX Pro伺服器,加速企業IT向企業AI Factory發展。

黃仁勳在演說中首先表示,Nvidia在臺灣發展已超過30年,臺灣有許多夥伴參與及見證Nvidia公司的轉型,從GPU晶片到系統,到資料中心再到轉型發展為AI基礎建設業者,他以電力為例,現在已將電力視為一種基礎建設,未來AI也會成為基礎建設,AI將成為每個企業都需要的基礎建設。

他表示,如同電力、網路需要基礎建設,AI也需要AI Factory,專門用於加速人工智慧負載的型態資料中心,衡量AI Factory生產能力,不只是產生多少Token,而是每小時產生多少Token。

現場展示GB200系統(左)、GB300(中間)及NVLink Switch(右):

黃仁勳指出,Grace Blackwell NVL 72正在全力生產中,預計今年第三季將會升級為Grace Blackwell GB300,採用相同架構,但內部採用新的Blackwell Ultra Superchip晶片,擁有更大的推論效能,相較於GB200,兩者的訓練效能相近,但是GB300提高1.5倍推論效能,1.5倍的HBM記憶體,約2倍的網路效能。

Nvidia也透過影片介紹GB200在台灣的供應鏈夥伴,包括和碩、鴻海、台積電等夥伴,共同參與Blackwell GB200的生產組裝過程。

聯手為臺灣擴建AI基礎建設

黃仁勳宣布Nvidia將為臺灣打造AI基礎建設,與政府、台積電、鴻海共同建置首座AI大型超級電腦。

Nvidia表示,富士康的子公司大創新公司將會建置1萬個Nvidia Blackwell GPU,為臺灣提供AI算力,國科會將會投資AI基礎建設,而台積電的研發團隊將利用該系統加速研發工作。多方合力打造的AI Factory,採用的正是Grace Blackwell GB300機架式方案,包括NVLink、Quantum InfiniBand、Spectrum-X乙太網路。

國科會主委吳正文表示,政府的計畫是在台灣南部打造以人工智慧為重點的產業生態系統。以專注於投資創新研究,發展強大的人工智慧產業,並鼓勵人工智慧工具的日常應用。我們的最終目標是打造一個充滿智慧城市的智慧人工智慧島。

富士康表示,將利用AI超級電腦加速其三大核心支柱,智慧城市、電動車和製造業的自動化和效率,以連接產業、公民和政府組織,以人工智慧加速成長。

鑑於臺灣的研發工程團隊不斷成長,以及擴大與臺灣的夥伴合作關係,現有臺灣辦公室空間已不敷使用,黃仁勳也揭露外界關心的臺灣總部位置,將在北投士林地區建置新的Nvidia臺灣總部。

此外,今年Computex,Nvidia也發表NVLink Fusion,可用以連接Nvidia的NVLink合作夥伴的矽晶片,依照企業客戶的模型訓練、代理AI推論需要,將這些晶片垂直擴充(Scale-Up)為客製化的大型系統。Nvidia也宣布高通、富士通的CPU將可以透過NVLink Fusion連接Nvidia GPU進一步打造高效能的Nvidia AI Factory。

Nvidia的這項宣布,透露高通將從行動、PC,擴展至資料中心市場,呼應先前高通傳出打造CPU,以進入資料中心市場的消息,並且和Nvidia GPU合作建置Nvidia AI Factory的目標。

事實上,今天高通的Computex演說中,高通執行長也透露將會擴展到資料中心市場。

除了發表產品規畫,與臺灣的台積電、鴻海、政府單位合力打造AI基礎建設,Nvidia看準企業的AI Factory市場商機,發表新的RTX伺服器,該伺服器採用RTX Pro 6000 Blackwell伺服器版本GPU,搭配Nvidia Enterprise AI Factory驗證設計,推動傳統以CPU為主的企業資料中心向Nvidia的企業AI Factory發展,大搶傳統資料中心因應AI應用的資料中心架構轉型商機。

 

熱門新聞

Advertisement