BERT

南投縣政府聯手電信業者，在雙龍瀑布入口路段架設攝影機，以影像辨識AI打造車流壅塞預警系統；南投交警如何用AI揪出偷跑砂石車？中華電信解密；中文版GPT-3來了，中國發布參數破億的超大中文預訓練模型，表現堪比GPT-3； GPT-3也有理解力！MIT新方法讓GPT理解力媲美BERT。

要取得全球廣泛認可的國際認證，才能將辛苦種植、養殖的農漁產品出口國際，甚至是上架國際大型連鎖超商！但對農漁民來講，要通過國際認證很困難，甚至要花費一年以上的準備時間。工研院看到這個痛點，協助業者將生產數據上鏈、用AI輔助申報，將資料準備時間縮短一半

OpenAI先前才釋出具1,750億個參數的超大自然語言預訓練模型GPT-3，最近又發表一款模型GPT-f，能以形式化語言Metamath自動證明數學定理；另一方面，Nviida日前在醫療影像醫器學習年會中，揭露一套醫療語音辨識模型Bio-Megatron，可聽懂病患說出的臨床單字，並對應到標準化的健康資料庫中。

研究人員利用大量表格資料以及相關的自然語言句子訓練TaBERT，因此TaBERT能夠理解自然語言查詢，並從表格查到答案

Google用來解析表格資料的新技術，擴展自BERT模型，可將自然語言問題與表格結構編碼，輸出可計算問題結果的過程

AI2攜手白宮、美國國衛院、微軟及其他組織，共同釋出武漢肺炎開放研究資料集（簡稱CORD-19），內含2萬9千多篇新冠病毒相關論文。Kaggle也同時舉辦CORD-19挑戰賽，要開發者以文字探勘從中找出洞察。另一方面，義大利博科尼大學發表BERTLang網站，提供特定語言的BERT模型和mBERT模型間的評比。Google發表JAX函式庫Neural Tangents，要來打開AI黑盒子。

臉書AI研究院日前聯手喬治亞理工學院、奧勒岡州立大學，用12個資料集訓練一套ViLBERT模型，不只可用來解決不同類型的電腦視覺與自然語言任務，參數還從30億個減少至2.7億個，準確度平均提升2分。另一方面，為更精準掌握景氣循環，國發會研擬開發一套景氣循環AI預警系統。此外，由國發會成率領民間團體成立的國家級投資公司台杉投資，明年計畫成立AI科技基金，同時要吸引國外AI技術團隊在臺成立研發中心。

Google搜尋服務運用神經網路技術BERT，來提高對話式查詢或多種關鍵字的搜尋結果準確度