AI趨勢周報第91期：英特爾聯手百度，要開發AI神經網路處理器加速DL模型訓練

重點新聞(0629～0705)

  百度    英特爾     AI處理器  

英特爾聯手百度，要開發AI神經網路處理器加速DL模型訓練

英特爾在日前百度的AI開發者大會上，宣布與百度聯手開發代號為Spring Crest、用來加速AI模型訓練的Nervana類神經處理器NNP-T。英特爾指出，NNP-T是一款新型高效能的深度學習系統硬體，可加速大規模分散式訓練，除了優化百度的PaddlePaddle深度學習框架，也優化圖像辨識能力。在硬體設計上，英特爾將架構中的標準快取記憶體（standard cache hierarchy）拿掉，採用晶載記憶體（on-chip memory）設計，由軟體直接管理。

NNP-T有24個計算叢集，搭載32GB HBM2和SPRAM記憶體，與同類型處理器相比，其AI訓練的效能提高10倍之多；與英特爾先前推出的代號Lake Crest的NNP-L 1000處理器相比，更提高了3到4倍的效能。英特爾預計今年下半年推出10nm Nervana神經網絡處理器NNP-I，為一款基於英特爾Ice Lake架構通用處理器內核的AI推理晶片。（詳全文）

  臺灣AI晶片聯盟    AI裝置 

臺灣AI晶片聯盟正式成立，要搶全球AI裝置市場商機

看準AI將成為國內半導體業的新機會，在行政院科技會報辦公室、經濟部與科技部支持下，正式成立臺灣AI晶片聯盟(AITA)，串接起國內的半導體設計、測試、封裝等上下游產業，如台積電、聯發科、群光電子、臺灣微軟、鈺創、南亞科、日月光、台達電、鴻海、廣達等50多家半導體業者加入，還有臺大系統晶片中心、成大晶片系統研發中心、清大AI研發中心參與。

為助國內晶片設計業者掌握AI晶片的彈性自主設計能力，AITA聯盟要整合各界資源，讓業者能減少研發成本，降低10倍晶片研發費用、縮短6個月以上的開發時間。AITA將打造多工、彈性、低耗電的新興AI 晶片架構，確保我國位居全球前三的位置。參與聯盟的會員可獲得技術交流，例如技術論壇、專題演講、專利布局及分析資料，以及先取得相關技術，如軟體開源碼、AI晶片標準的開發模組。（詳全文）

臉書     深度學習     DLRM  

臉書開源深度學習推薦模型DLRM，強化處理分類型資料的能力

臉書近日開源深度學習模型DLRM（Deep Learning Recommendation Model），可用來打造個人化的推薦系統。臉書表示，由類神經網路打造的推薦模型越來越重要，但這些模型與其他深度學習模型有很大的差異，也就是要能夠處理分類型資料（Categorical data）。分類型資料指的是有固定範圍的變數，比如眼睛的顏色，通常用來描述更高階的屬性。對類神經網路模型來說，處理這種資料是一大挑戰。

因此，臉書運用推薦系統的基本原理，結合條件篩選和預測分析，在DLRM中先利用內嵌（Embedding）來處理稀疏的分類型特徵，而底部的多層感知器（MLP）則來處理連續特徵。接著，模型處理不同特徵的二階交互計算，最後透過頂部的MLP來處理計算結果，再將結果輸入sigmoid函數，來算出點擊的機率。另一方面，臉書DLRM benchmark提供了PyTorch和Caffe 2兩種版本，另也提供一組Glow C++變異版。臉書表示，DLRM還可介接開放資料集，比如Kaggle Display Advertising Challenge Dataset。（詳全文）

  臉書   自然語言搜尋    程式碼 

臉書讓開發者用自然語言就能搜尋程式碼

為了讓開發者快速找到所需的程式碼，臉書開發了新的程式碼搜尋工具NCS（Neural Code Search），讓開發者可直接使用自然語言來搜尋程式碼。

NCS是一套結合自然語言處理（NLP）和資訊檢索（IR）的模型，還搭配了UNIF擴充套件，使用監督式模型來改善NCS表現。臉書利用開源AI工具如PyTorch、fastText和FAISS來打造NCS與UNIF，也利用GitHub中的程式碼來訓練模型，而NCS和UNIF都可將自然語言的查詢和程式碼以向量型式呈現彼此的相關程度。後來，臉書也評量了NCS對查詢的反應，也就是計算出現在Stack Overflow解答前1、前5以及前10的次數。在提出的287個問題中，NCS的回答出現在前10的有175個，相當是整個資料集的60％。（詳全文）

D3M    宇宙模擬    深度學習  

研究人員首次應用AI模擬宇宙外觀，計算結果又快又準

由柏克萊大學、日本卡弗里數物連攜宇宙研究機構、英屬哥倫比亞大學以及卡內基美隆大學研究員組成的研究團隊，開發出D3M（Deep Density Displacement Model）模型，能快速、精確地模擬宇宙樣貌。

研究團隊使用PyTorch深度學習框架和GPU，以8,000種不同的模擬訓練資料，進行深度神經網路訓練。模型訓練完後，研究員就用來模擬6億光年的箱型宇宙，並把模擬結果與其他模型比較，包括需要數百小時運算的高精準度模型，以及只需數分鐘的高速模型。D3M模型計算時間僅花費30毫秒，產生的結果相對誤差只有高精確度模型的2.8％，也就是說在省下大量運算時間的同時，還保有一定的精確度。而與高速模型相比，高速模型花了更多時間，得到相對誤差卻有10％。（詳全文）

Yahoo    精準行銷    廣告生成  

Yahoo奇摩原生廣告整合AI，不只作精準行銷，還能自動生成廣告內容

Yahoo奇摩近日和中華民國全國中小企業總會聯手發表「中小企業AI行銷白皮書」，以線上問卷調查國內約350家中小企業，結果顯示近7成的中小企業開始或計畫應用AI解決方案，已開始應用（37%）的中小企業，顧客互動、數據蒐集、行銷廣告是三個主要的AI應用領域。

看準中小企業AI數位行銷的需求，Yahoo奇摩已整合AI技術，在去年12月時，旗下的原生廣告就開始整合AI技術，推出AI原生廣告，包括動態智慧投遞、智慧模擬受眾、動態場景廣告等三個方案。其中的動態智慧投遞透過數據分析、串接廣告主的資料庫，自動取得相關數據和廣告素材如商品照片、價格資訊，自動產生對應不同版位的廣告文案內容，並對合適的對象投放廣告。（詳全文）

圖片來源／臉書、Simons Foundation

 AI趨勢近期新聞 

1. Google推出YouTube-8M Segments時間定位資料集

2. Google推深度學習容器，用戶能在本地和雲端建立一致的開發環境

3. 公車客運時刻表不準？Google Maps新增巴士誤點預測，還能顯示車廂人潮

4. LG與Qt擴大合作，要將webOS帶上汽車、機器人與智慧家庭裝置

資料來源：iThome整理，2019年7月