Nvidia將與鴻海、國科會合作建置1萬個GPU的AI Factory

Nvidia執行長黃仁勳在今天(5/19)Computex前夕的主題演說中宣布，將和鴻海、台積電合作在臺灣建置AI Factory，加速國內的AI基礎建設，同時也發表RTX Pro伺服器，加速企業IT向企業AI Factory發展。

黃仁勳在演說中首先表示，Nvidia在臺灣發展已超過30年，臺灣有許多夥伴參與及見證Nvidia公司的轉型，從GPU晶片到系統，到資料中心再到轉型發展為AI基礎建設業者，他以電力為例，現在已將電力視為一種基礎建設，未來AI也會成為基礎建設，AI將成為每個企業都需要的基礎建設。

他表示，如同電力、網路需要基礎建設，AI也需要AI Factory，專門用於加速人工智慧負載的型態資料中心，衡量AI Factory生產能力，不只是產生多少Token，而是每小時產生多少Token。

現場展示GB200系統(左)、GB300(中間)及NVLink Switch(右)：

黃仁勳指出，Grace Blackwell NVL 72正在全力生產中，預計今年第三季將會升級為Grace Blackwell GB300，採用相同架構，但內部採用新的Blackwell Ultra Superchip晶片，擁有更大的推論效能，相較於GB200，兩者的訓練效能相近，但是GB300提高1.5倍推論效能，1.5倍的HBM記憶體，約2倍的網路效能。

Nvidia也透過影片介紹GB200在台灣的供應鏈夥伴，包括和碩、鴻海、台積電等夥伴，共同參與Blackwell GB200的生產組裝過程。

聯手為臺灣擴建AI基礎建設

黃仁勳宣布Nvidia將為臺灣打造AI基礎建設，與政府、台積電、鴻海共同建置首座AI大型超級電腦。

Nvidia表示，富士康的子公司大創新公司將會建置1萬個Nvidia Blackwell GPU，為臺灣提供AI算力，國科會將會投資AI基礎建設，而台積電的研發團隊將利用該系統加速研發工作。多方合力打造的AI Factory，採用的正是Grace Blackwell GB300機架式方案，包括NVLink、Quantum InfiniBand、Spectrum-X乙太網路。

國科會主委吳正文表示，政府的計畫是在台灣南部打造以人工智慧為重點的產業生態系統。以專注於投資創新研究，發展強大的人工智慧產業，並鼓勵人工智慧工具的日常應用。我們的最終目標是打造一個充滿智慧城市的智慧人工智慧島。

富士康表示，將利用AI超級電腦加速其三大核心支柱，智慧城市、電動車和製造業的自動化和效率，以連接產業、公民和政府組織，以人工智慧加速成長。

鑑於臺灣的研發工程團隊不斷成長，以及擴大與臺灣的夥伴合作關係，現有臺灣辦公室空間已不敷使用，黃仁勳也揭露外界關心的臺灣總部位置，將在北投士林地區建置新的Nvidia臺灣總部。

此外，今年Computex，Nvidia也發表NVLink Fusion，可用以連接Nvidia的NVLink合作夥伴的矽晶片，依照企業客戶的模型訓練、代理AI推論需要，將這些晶片垂直擴充(Scale-Up)為客製化的大型系統。Nvidia也宣布高通、富士通的CPU將可以透過NVLink Fusion連接Nvidia GPU進一步打造高效能的Nvidia AI Factory。

Nvidia的這項宣布，透露高通將從行動、PC，擴展至資料中心市場，呼應先前高通傳出打造CPU，以進入資料中心市場的消息，並且和Nvidia GPU合作建置Nvidia AI Factory的目標。

事實上，今天高通的Computex演說中，高通執行長也透露將會擴展到資料中心市場。

除了發表產品規畫，與臺灣的台積電、鴻海、政府單位合力打造AI基礎建設，Nvidia看準企業的AI Factory市場商機，發表新的RTX伺服器，該伺服器採用RTX Pro 6000 Blackwell伺服器版本GPU，搭配Nvidia Enterprise AI Factory驗證設計，推動傳統以CPU為主的企業資料中心向Nvidia的企業AI Factory發展，大搶傳統資料中心因應AI應用的資料中心架構轉型商機。