NLP

Google Brain利用稀疏技術和多專家模型（MoE），打造出1.6兆參數的NLP預訓練模型Switch Transformer，稱運算成本不變但更快速；經過2年醞釀，美國FDA終於發布AI/ML醫材軟體法規行動計畫；找出最佳神經網路架構好難？德州大學發表且開源無須訓練的神經網路搜尋（NAS）方法TE-NAS。

臺灣新創Frontier以16支引擎打造紡織雲平臺，也就是一套數位布片資料庫，來解決紡織業數位化痛點。他們以AWS和其他辨識引擎來自動辨識、校正、降噪和貼標紡織業者上傳的布片，所有流程只需3分鐘；Google新NLP模型就算比BERT少300倍的參數，也能達到相同水準。

英國有家AI新創Factmata，過去專注於運用NLP技術開發新聞內容分析引擎，不過在這波疫情期間，轉而投入疫情假訊息儀表板的開發。其執行長Dhruv Ghulati 5月底在Twitter揭露，即將要發布這項成果

今年，Penn Medicine和英特爾要藉聯合學習（FL），來讓跨七國的29家醫學研究中心，共同訓練一套腦瘤偵測AI；在臺灣，慈濟醫院聯手華碩，要推動11項醫療AI專案；零接觸防疫：北醫導入心律影像偵測AI，高附醫導入雷達生理感測系統，透過AI來即早預警；Amazon正式發布Kendra，可替企業使用者快速找到專業領域資料。

錠嵂保經啟用AI保單健診系統，讓自家2千多位保險業務，只需用手機拍下保戶的保單，上傳至雲端平臺後，就能在幾分鐘內自動產生保戶的保單健診報告，包括現有的保單明細、保障額度、不同險種的保障分析等，保險業務和保戶不必再耗費1至2周的往返溝通，當場即可解決。未來，錠嵂保經也計畫開放這套系統，讓保戶也能自行上網分析。

中國信託今天在臺北金融科技展，展出三項業界創新服務，分別是刷臉支付、能自動辨識支票的「AI存票機」，以及能與用戶對話的ATM，雖然還未實際落地應用，卻也展現了金融科技多元的應用型態。

華為發表更輕更小的自然語言處理預訓練模型TinyBERT，比Google BERT小7倍，推論速度卻快上9.4倍。TinyBERT採用知識提煉（KD）和師生框架來改善Google BERT，利用小型學生網路來模仿大型老師網路行為，而KD則著重於Transformer提煉和兩階段學習框架，在大型文本語料庫和下游微調過的TinyBERT之間，增加一個通用TinyBERT。

2020年「科技大擂臺與AI對話」挑戰賽正式開放報名，科技部號召各界NLP高手打造高理解力AI，來挑戰華語文能力測驗。競賽類型有簡答題和多輪對話測驗2大類，分別著重文本推理和一問一答的任務目標；競賽的語音部分，由臺灣人工智慧實驗室提供雅婷逐字稿語音辨識系統，給參賽團隊介接使用。