群環與IBM強強聯手，建構以Power 10與Storage Scale System為核心的AI技術生態圈

創立於1987年的群環科技，至今即將邁入第37個年頭，一路走來致力成為臺灣頂尖資訊產品及服務的專業加值配銷商。過往業務重心側重資訊硬體設備，惟有鑑於企業數位轉型風潮持續延燒，展望未來雲端、大數據、AI、資安等數位科技可謂重中之重，驅使群環在既有基礎上穩健前行，決定擴大軟體、服務等加值代理業務版圖。

群環科技總經理萬文凱表示，綜觀群環悠久的發展歷程，其中有長達30年時間與IBM合作，彼此堪稱堅實戰友。以往合作範圍偏重硬體產品代理銷售，從早期x86伺服器時代，到現在的Power Systems、儲存乃至LinuxONE等設備；除此之外，群環也身兼IBM服務的SP1經銷商角色，為最終用戶提供基礎建置與維護服務。

時至今年（2023），群環因應產業數位轉型浪潮而決定擴展事業版圖，期盼為經銷商及最終用戶提供更深更廣的產品線，因而讓群環與IBM的合作關係上出現新的突破，陸續簽定IBM軟體與服務的代理權，結合原有的硬體代理業務，可望形塑軟硬兼備、一站購足的戰力，針對AI、大數據與資安等熱門應用趨勢建立更強的著力點。

以高速分散式檔案系統，大幅加快模型訓練速度
萬文凱指出，有關群環即將展開的IBM軟體與服務代理業務，如前所述將圍繞在AI、大數據與資安等主軸，作為優先涉獵標的。多年來群環提供的DaaS（Device as a Service）端點設備租賃方案，始終叫好叫座，獲得廣大用戶青睞採用；從明年起可望與IBM Security QRadar EDR進行搭售，旨在為客戶營造更安全的作業環境，至於背後的MDR託管服務能量，初期將由IBM加以提供，今後由群環協助經銷商建立MDR中心，或由對資安有興趣的經銷夥伴來執行。

但更重要的，群環已將AI列為2024年列為首要推廣目標，係因看好AI將持續在各行各業形成廣泛且巨大的影響力，許多企業將會加大對AI的技術投資，藉此提升生產力、增進效益並改善決策品質。

為強化AI業務經營的縱深度，群環將IBM的兩項硬體產品列入現階段發展藍圖，一是IBM Power Systems，另一是Storage Scale System（SSS）3500。
談及群環之所以將SSS 3500列為搶攻AI 商機的主力產品之一，係因它是基於分散式檔案與物件儲存、且支援NVIDIA GDS（GPUDirect Storage）的高吞吐率（Throughput）儲存設備，與基於單一Purpose而設計的一般儲存系統截然不同，特別擅長在多台GPU訓練主機平行運算場景中，將海量數據吞吐快速且平均分散至各個節點，讓寶貴的GPU運算資源不會因等待資料到位而閒置，得以大幅縮短模型短訓練時間。

萬文凱引述第三方評測數據指出，在所有通過NVIDIA GDS的儲存系統中，SSS 3500 單節點的讀取效能高達125Gbps，寫入效能則為60Gbps，雙雙巨幅領先其餘主流儲存品牌，且可視客戶需要之效能需求，進行橫向及緃向擴充。因此群環深具信心，SSS 3500絕對是最能完美詮釋「用資料創造業務價值」的首選利器。

資料來源:https://blocksandfiles.com/2023/08/15/ibm-nvidia-gpu-data-delivery/

台灣IBM 認知系統顧問 王君偉補充說，伴隨生成式AI崛起，可預見今後多數企業的AI開發者，會傾向從HuggingFace網站擷取預訓練模型，再結合內部大數據進行重新訓練，惟因其工作量十分繁重，已非單一GPU伺服器所能負擔，所以會藉由多台GPU伺服器搭建平行運算環境，連帶急需搭配建置高效能分散式檔案系統、以消弭資料I/O瓶頸，此時便能充分彰顯SSS 3500的導入價值。

兼具高性能與高可用度，流暢運行AI推論應用
至於群環的另一推廣重心IBM Power 10伺服器，可望在AI推論（Inference）、乃至AI模型生命週期管理等環節扮演要角。

王君偉說，從近年IBM與群環合力參與企業AI專案的經驗來看，不論早先的ML/DL或近期熱門的生成式AI型態，都明顯發現多數客戶偏好採取混合雲佈局，也就是將雲端上完成訓練的模型拉回地端執行推論；綜觀整套流程，Power 10在許多環節都能發揮獨到優勢。

此乃因為，IBM與群環觀察到一個現象，許多Data Scientist對於如何將雲上的模型部署到地端並順利上線？如何將模型整合到企業內部應用環境？如何建立完善的模型再訓練等AI生命週期管理機制，屢屢遭遇瓶頸和阻礙。 

一旦採用Power 10，拜充分支援Red Hat OpenShift所賜，有助企業直接運用容器技術，不論從模型層、容器層或Infrastructure層，皆能快速將雲上任何資源拉下地端，完成模型或平台佈建；爾後亦可輕易在雲地間互轉，達到混合雲切換目的，順利驅動模型再訓練與再部署。

更重要的，Power 10的CPU當中每個晶片皆內建多達4個「矩陣數學加速器」（Matrix Math Accelerator；MMA），使企業無需斥資購置額外GPU伺服器，即可展開高速推論，有助降低總體建設成本。更有甚者，Power 10可透過PowerVM虛擬化技術，藉由內核記憶體來承載從數據中台匯入的資料、便於推論模型直接運取用，省卻因網路傳輸而造成的延遲，展現優異推論效能。

再者Power 10本身具有遠優於x86主機的高可用特性，確保企業恆常穩定執行推論工作，不會因推論主機失效而導致AI應用情境戛然而止，這點同樣至關重要。

最後萬文凱表示，在即將到來的2024年，群環將加大通路行銷力度，積極傳遞Power 10或SSS 3500等相關產品資訊給經銷夥伴，並勤於展開相關培訓，力求擴大AI技術支援生態圈；與此同時亦將善用IBM的顧問輔導能量，指引經銷夥伴啟用最適化的軟硬體工具和服務資源，滿足最終用戶交付的專案任務，從而協助各行各業完成具高CP值與長遠效益的AI基礎佈建。