Nvidia

最新的深度學習推理SDK TensorRT 8，能夠加速所有基於Transformer模型的對話人工智慧，把推理時間縮短到前一代的一半

Nvidia宣稱，若以新一代的深度學習推論軟體開發套件TensorRT 8，最佳化超大Transformer模型BERT-Large，並部署在V100上執行，只要1.2毫秒就能完成推論。相較於TensorRT 7，不僅推論時間快一倍、推論準確性也提升一倍

這次MLPerf Training v1.0的測試中，Nvidia以DGX SuperPOD參加評測，在8項AI工作負載測試中獲得不錯的成績。值得關注的是，Nvidia並非在所有AI應用都拔得頭籌，Google即將推出的AI加速晶片TPU v4，在特定AI模型訓練的任務中，效能表現甚至超越了Nvidia產品評測結果

Nvidia正式推出遷移學習工具套件TLT 3.0，內含多種預訓練模型，像是車牌辨識、心率監測、情緒辨識、人臉特徵點和語音辨識等，要來縮短企業部署AI的歷程。這些預訓練模型，也能在AWS、GCP和Azure上訓練。

由HPE與Nvidia及AMD聯手打造的GPU加速超級電腦Perlmutter，理論上可提供接近3.8 exaflop/s的AI效能，將用來協助描繪橫跨110億光年的宇宙圖

上一季Nvidia總營收成長84%，其中遊戲成長106%、資料中心成長79%，這二項服務刷新各自的營收紀錄

花蓮慈濟醫院分享行動AI應用進展，用一支行動巡房App整合醫院兩大核心系統HIS和PACS，打破時間和地理位置限制，讓醫師隨時隨地可查看病患狀況。不只如此，這款App更導入醫療AI開發框架Clara的模型，來即時判讀PACS影像，要是有誤，醫師還能即時回饋來讓精進模型。

Nvidia在日前落幕的GTC上發布50多個新SDK和學習教材，範圍涵蓋HPC、電腦視覺、資料科學、推薦系統、即時串流和對話式AI等，以及新的Nvidia深度學習研究院線上課程；微軟開源完勝多項CNN任務的預訓練模型Swin Transformer；臺中榮總聯手陽明交大，為醫療AI布局還要培育更多懂AI的醫師。