| NVMe SSD | GPU | 400Gb

儲存月報第69期：PCIe 5應用環境逐步成形

從網路卡、NVMe SSD、GPU等周邊裝置，到處理器與主機平臺，都正在迅速導入PCIe 5.0介面，預期年底將能初步形成完整的應用環境

2022-06-23

| AWS | EC2 | GPU

AWS開始預覽大型機器學習訓練用GPU執行個體EC2 P4de

P4de執行個體可提供高達8個Nvidia A100 GPU，總共擁有640 GB的GPU記憶體，是當前GPU執行個體P4d的2倍

2022-05-27

| Nvidia | Computex | Grace | CPU | GPU

Nvidia發表Grace伺服器參考設計，明年上半年產品問世；液冷式A100 GPU亮相

Nvidia去年發表旗下首款資料中心級CPU，今年Computex公布更多Grace細節，包括4種伺服器參考設計，搶攻雲端遊戲及繪圖、高效能運算、AI訓練及推論。此外，還推出液冷式A100 GPU。

2022-05-24

| PyTorch | Apple | Metal | GPU

深度學習框架PyTorch在Mac上也可使用GPU加速

Apple Silicon Mac現在支援PyTorch使用GPU加速，因此開發者便可以在本地端，訓練更大規模的模型

2022-05-20

| 永續 | 加速運算卡 | 伺服器 | 減碳 | 機器學習 | GPU | 耗電 | 散熱

高功耗資料中心時代來臨

除了CPU與GPU，為了提升特定應用程式或服務的執行效能，伺服器搭配各種加速運算卡的機會也越來越多，隨著這些元件所承擔的運算工作日益吃重，接踵而來的耗電量、散熱需求增加狀況，勢必也將浮上檯面，成為企業在考量IT整體能源使用效率時，所無法忽視的因素

2022-03-25

| 微軟 | Nvidia | GPU | 機密運算 | Azure Confidential VM | Ampere Protected Memory

微軟與Nvidia合作將機密運算延伸到GPU

微軟將把名為Ampere Protected Memory（APM）的機密運算技術，部署到Nvidia A100 Tensor Core GPU

2022-03-24

| 微軟 | AMD | GPU | ROCm

微軟深度學習函式庫DeepSpeed開始支援ROCm平臺，在相容GPU上大幅加速大型模型訓練

微軟與AMD合作，在深度學習最佳化函式庫DeepSpeed加入ROCm技術支援，使得DeepSpeed能獲得相容ROCm的GPU，以及AMD Instinct GPU所帶來的運算加速

2022-03-23

| 微軟 | DirectStorage | Windows | GPU

DirectX新I/O功能DirectStorage正式登陸PC，可大幅強化遊戲載入速度

微軟原本針對家用遊戲機Xbox Series X，所開發的儲存I/O技術DirectStorage，現在被正式移植到個人電腦上，支援Windows 10以上版本

2022-03-16

| Nvidia | 網路攻擊 | 資料外洩 | GPU | LHR

駭客揚言出售解鎖Nvidia GPU運算力的技術

videocardz網站公布駭客組織Lapsus$在Telegram的通訊紀錄，顯示Lapsus$以公佈Nvidia產品硬體資料為要脅，要Nvidia更新30款韌體以移除GPU運算力的限制

2022-03-02

| AWS | Nvidia | GPU | 機器學習 | 張量核心

AWS發布搭載A10G GPU的EC2執行個體G5，機器學習效能是前一代3倍以上

AWS G5執行個體採用Nvidia A10G張量核心GPU，機器學習訓練和推理效能都是前一代的3倍以上

2021-11-15

| Nvidia | AI | GPU | 超級電腦

Nvidia發表邊緣運算用AI超級電腦Jetson AGX Orin

Jetson AGX Orin是可以放在手掌上的小型人工智慧超級電腦，搭載Arm Cortex-A78AE CPU以及Nvidia Ampere架構GPU，提供GPU伺服器等級的運算能力

2021-11-11

| 微軟 | GPU | AI | 機器學習 | PyTorch

微軟開源可在任何GPU訓練機器學習模型的套件PyTorch-DirectML

PyTorch-DirectML套件可將GPU機器學習函式庫DirectML作為PyTorch框架的後端，在DirectX12 GPU和WSL上執行模型訓練

2021-10-25