Nvidia推出BlueField‑4 STX儲存架構與CMX平臺，為AI推論加速提供標準化架構，臺灣三家伺服器廠商率先支援

Nvidia於GTC大會推出BlueField‑4 STX儲存參考架構，針對企業與雲端AI服務提供儲存加速解決方案，結合BlueField‑4資料處理器、ConnectX‑9 SuperNIC與Spectrum‑X網路設備， 號稱能提供比傳統儲存架構高出5倍的Token處理效能，大幅提升儲存設備存取速度，從而支援AI模型在長上下文（long-context）推論作業時的資料存取需求。

基於BlueField‑4 STX架構，Nvidia也發表以此打造的機架級CMX上下文記憶體儲存（Context Memory Storage）平臺，專門用於解決AI推論中的KV快取存取瓶頸，透過BlueField‑4的硬體加速與RDMA存取能力，在GPU與儲存設備之間建立高效率的上下文記憶儲存層，擴展GPU可用的KV快取記憶體空間。包括臺灣伺服器大廠QCT、AIC，以及Supermicro， 率先發表支援CMX平臺與BlueField‑4 STX架構的產品。這些產品除支援 BlueField-4、ConnectX-9等元件外，也支援Nvidia新的 Vera CPU 。

過去已有多家廠商自行打造擴展GPU KV快取記憶體空間的儲存解決方案，而現在Nvidia藉由推出BlueField‑4 STX架構與CMX平臺，可望為這個領域的應用，提供通用的參考架構與實作框架。