微軟揭露深度學習加速平臺專案Brainwave，用FPGA架構加速AI運算效能

微軟於本周二（8/22）在Hot Chips高效能晶片研討會上，揭露深度學習加速硬體平臺專案Brainwave，目的為即時人工智慧（AI）運算，讓系統能以超低延遲，在接收到要求指令的同時能夠快速處理。同時，Brainwave硬體平臺也提升了機器學習在雲端環境的運算效能。

Brainwave硬體平臺主要由3層架構所組成，包含了高效能的分散式系統架構、搭載深度神經網路（DNN）引擎的現場可程式邏輯閘陣列（FPGA）運算架構，以及用在訓練模型低摩擦部署（Low-Friction Deployment）的編譯器和Runtime。

而Brainwave採用了英特爾（Intel）具備FPGA加速運算能力的Stratix 10處理器，能夠維持39.5 Teraflops（每秒1兆次浮點運算）的運算速度，且不必批次處理。Brainwave更以龐大的GRU模型運作，微軟聲稱，比Resnet-50深度學習模型的執行效能高5倍

另外，微軟也在FPGA運算架構上整合了深度神經網路（DNN）引擎，這樣的架構能降低延遲，且FPGA架構處理要求的速度能達到網路串流接收請求的速度一樣快。

除此之外，微軟也在Brainwave內建了支援熱門深度學習框架的軟體堆疊，包含了微軟的認知工具包（Cognitive Toolkit）、Google的AI平臺Tensorflow等。

根據微軟官網，目前，微軟正在建置Brainwave硬體平臺至Azure，未來將提供Azure用戶雲端即時AI運算服務。