AI趨勢周報第104期:更輕更小!華為發表TinyBERT準確度不輸Google BERT

華為發表更輕更小的自然語言處理預訓練模型TinyBERT,比Google BERT小7倍,推論速度卻快上9.4倍。TinyBERT採用知識提煉(KD)和師生框架來改善Google BERT,利用小型學生網路來模仿大型老師網路行為,而KD則著重於Transformer提煉和兩階段學習框架,在大型文本語料庫和下游微調過的TinyBERT之間,增加一個通用TinyBERT。

2019-10-11

AI趨勢周報第78期:TensorFlow 2.0預覽版釋出!

Google近日釋出TensorFlow 2.0預覽版,加入針對TensorFlow優化過的函示庫Keras,也清理重複的API、新增高階API,助使用者建置機器學習模型。此外,Google也號召成立CHIP晶片設計開源聯盟,將交由Linux基金會代管所有開源晶片設計程式碼。

2019-03-14

AI趨勢周報第73期:彰基聯手HTC DeepQ推AI+區塊鏈客服蘭醫師,精簡看診流程

彰化基督教醫院聯手 HTC DeepQ,推出AI+區塊鏈技術的LINE Chatbot蘭醫師,適用彰基全臺10個院區。蘭醫生的區塊鏈技術,採用DeepQ、臺大和美國史丹佛大學共同研發的多層次醫療區塊鏈技術,讓病患醫療資料可跨院區流通,又同時保護病患隱私。這項技術,還可以在1秒內可交換數千筆資料。

2019-01-24

AI趨勢周報第54期:Google資料中心,已由AI來控制冷卻系統

Google近日宣布,其資料中心的冷卻工作已交給AI負責,讓AI來掌管資料中心的溫控。AI系統每5分鐘拍攝一次冷卻系統的照片,並將訊息輸入DeepMind神經網路,系統會評估要採取哪些措施,在維持溫度的同時也能盡量減少耗能,而管理人員則不介入操作。

2018-08-23