HPE AI 伺服器與 AI-Stack 攜手，打造企業級人工智慧算力新典範

在人工智慧（AI）技術飛速發展、應用需求日益多元的當下，多數企業對高效、彈性的算力資源管理方案需求快速攀升。慧與科技（HPE）與數位無限（INFINITIX）深刻洞察市場挑戰，於是攜手建立策略夥伴關係，推出整合性的AI解決方案，形成一套涵蓋強大硬體基礎設施與AI資源智慧調度系統的全棧式服務。

此方案充分展現HPE於伺服器硬體優化、資安架構強化及節能永續技術推動上的深厚實力，並結合數位無限在GPU資源調度、MLOps平台建置及AI應用加速等方面的技術優勢。藉由雙方緊密協作，不僅可大幅縮短AI模型開發與部署週期，更顯著提升算力資源的運用效率，為各行各業鋪設了通往AI驅動未來的前行路徑。

HPE ProLiant Gen12伺服器，為AI而生的效能與安全雙重保證

HPE ProLiant Gen12伺服器系列專為生成式AI（GenAI）與傳統AI工作負載量身打造，完整涵蓋從模型訓練、微調到推論等各階段需求。例如DL380a Gen12伺服器最多可支援10張NVIDIA H200 NVL GPU，而DL384 Gen12最多能搭載兩顆NVIDIA GH200 Superchip，組成GH200 NVL2配置（每張GH200 Superchip包含1顆Grace CPU與1顆Hopper GPU），特別適用於混合記憶體密集型的AI工作負載。這些伺服器均可展現卓越的擴充性，提供從1U到4U、從單處理器至四處理器的多元機型，能夠靈活滿足不同AI成熟度的企業需求。

在資訊安全方面，HPE ProLiant Gen12伺服器搭載HPE iLO 7管理模組，提供業界領先的防護能力，透過諸如「安全隔離區」與「矽信任根保護」（Silicon Root of Trust）等獨家創新技術，確保從製造到退役的全程安全性。另外，此系列伺服器不但符合FIPS 140-3 Level 3加密安全標準，更進一步配備了量子運算防禦技術，可望有效抵禦未來潛在的資安威脅，保障企業AI運算安全無虞。

值得一提的，HPE亦高度重視節能與永續發展。透過Direct Liquid Cooling（DLC）閉迴路水冷技術，有效提升冷卻效率、降低能源消耗；此外藉由HPE Compute Ops Management SaaS平台提供統一的監控與預測性洞察，實現能源使用與碳排放的可視化，協助企業即時掌握碳足跡狀態，呼應ESG永續發展目標。同時HPE也積極與NVIDIA合作，導入NVLink技術，並支援Blackwell、GH200、GB200等最新平台，強化硬體技術前瞻性與AI生態系整合力，以提升長期投資價值與系統延展性。

數位無限AI-Stack平台，重塑GPU調度與AI開發效率新高度

數位無限的AI-Stack平台，專為解決GPU資源使用率偏低與AI開發流程複雜等痛點所而設計。其蘊含深具亮點的「GPU切割與聚合」核心技術，能夠將單張GPU切分為多個虛擬單位、以支援多任務並行處理，同時也能聚合多張GPU以支援大型模型訓練及跨節點高效運算。得益於這項技術，能將GPU資源利用率從以往平均20~30%大幅提升至90%以上，整體運算效益提升逾三倍，有效釋放AI算力潛能。該平台亦提供多層次調度管理功能，支援Kubernetes、多租戶、批次任務與容器鏡像管理，同時可依應用自訂硬體資源，涵蓋NVIDIA H100、A100與AMD MI300等主流GPU平台。

針對AI模型開發流程，AI-Stack實現「一分鐘無碼部署AI訓練環境」目標，整合Jupyter、PyTorch、TensorFlow、MLflow、Kubeflow等主流工具，大幅降低AI團隊的開發門檻與環境建置時間。另結合角色導向設計，使得資料科學家能專注於模型研究，同時IT管理者也能輕鬆掌控GPU主機與節點配置審核與安全防護。

另一方面，AI-Stack支援多種開源框架，並透過模型即服務（Model-as-a-Service, MaaS）模組，提供一鍵式部署與管理模型微服務的能力，加速AI模型從開發到商業應用落地的轉化進程。更重要的是，此平台支援跨節點分散式訓練（Elastic Training Service）功能，可依照訓練需求動態調整資源分配，有效突破傳統大規模AI模型訓練所面臨的資源瓶頸。

HPE AI 伺服器

共築生態系，打造一站式創新應用場景

HPE與數位無限的深度整合，開創從硬體部署、AI模型開發到商業化應用的一站式完整路徑。HPE提供堅實的硬體基礎與資安節能架構，而數位無限則提供高效率的資源調度、開發環境與部署平台，藉由彼此的優勢互補，形塑強大的全棧AI解決方案。數位無限身為HPE與NVIDIA AI生態圈的重要夥伴，不僅曾參與HPE舉辦的ProLiant Compute Gen12發表會，更在HPE與NVIDIA共同主辦的Private Cloud Conference中分享AI-Stack平台如何優化GPU資源調度、簡化AI作業流程，充分展現技術落地的真實價值。

這項合作可望在多元應用場景中展現豐碩效益，譬如智慧客服、風險分析、數位模擬、個人化學習…等等領域，橫跨金融、製造、醫療、政府、教育等眾多垂直產業。透過雙方協作，可望幫助企業用戶大幅優化內部AI模型開發與部署、提升產線與報銷分類效率、建構跨品牌GPU算力池以增強創新研發能量，亦可協助學術機構打造全堆疊式大型語言模型學習平台。這不僅有助於企業高效運用GPU算力，更能透過精準資源監控與智能調度機制，有效降低營運成本與碳排放，順勢實踐ESG永續發展願景。

總括而言，HPE與數位無限的強強聯手，不僅為企業AI旅程注入穩定、安全且極具彈性的AI算力支援，同時透過先進的軟體平台，全面釋放GPU運算潛能。這不僅是一次技術整合的創新，更是一場奠定AI應用發展基礎的轉型革命。隨著雙方攜手合作，勢將為臺灣企業開啟AI驅動的創新未來，也為AI基礎建設寫下嶄新篇章。

想了解更多HPE企業轉型方案及台灣AI應用服務嗎? 歡迎至敦新官網下載HPE AI生態圈推廣專刊。

敦新科技為HPE伺服器/儲存設備及Infinitix的專業代理商，提供IT投資解決方案幫助客戶轉型數位化業務，協助HPE經銷夥伴專業銷售，凝聚從AI基礎架構建置、管理到儲存設備，以及資料安全到專業服務的全面銷售能力。最新各種機種及HPE、Infinitix專業服務，歡迎洽詢敦新業務部: 02-8978-5386，或造訪: www.dawningtech.com.tw。