GPU

AI基礎設施供應商IREN及Lambda各自宣布與微軟簽署新合作協議，協助微軟擴大AI運算所需的雲端GPU規模

過去AI應用當中，經常處於閒置狀態的GPU伺服器內接SSD，如今開始成為平行檔案系統利用的目標，藉此提供具備超低延遲特性的AI儲存空間

AMD將提供6GW的Instinct GPU運算力，來支援OpenAI的AI基礎設施

資安業者Arctic Wolf在8月下旬發現新一波惡意軟體攻擊GPUGate，駭客鎖定西歐國家的開發者及IT專業人士下手，藉由Google廣告，佯稱提供電腦版GitHub的名義散布

為了滿足LLM無止盡的記憶體空間需求，促成記憶體擴展解決方案的興盛發展，涵蓋從開源軟體，到搭配專屬硬體運作等不同形態

LLM能力持續提高，帶來記憶體容量需求暴漲，促成卸載GPU記憶體負荷、擴展可用記憶體資源的嶄新解決方案誕生，幫助克服LLM應用的記憶體瓶頸

根據華爾街日報與金融時報的報導，美國商務部同意Nvidia與AMD得以分別將H20及MI308出口至中國市場，條件是相關營收15%必須上繳國庫

Nvidia官網宣布美國政府已保證要授予許可，讓該公司銷售H20 GPU至中國市場