示意圖,與新聞事件無關。

Google周二(11/14)釋出了TensorFlow Lite的開發人員預覽版,這是TensorFlow機器學習框架的精簡版,專為行動裝置與嵌入式裝置所打造。

TensorFlow團隊表示,2015年開源的TensorFlow原本就支援不同的平台,從大型的機架伺服器到小型的物聯網(IoT)裝置等,有鑑於這幾年機器學習模型的採用呈倍數成長,因而需要將它們部署在行動與嵌入式裝置上,TensorFlow Lite即能針對裝置上的機器學習模型進行低延遲的推論。

TensorFlow Lite具備精簡、跨平台及快速等特性。它能快速啟動且只需要很小的二元檔案就能執行裝置上機器學習模型的推論;設計上可支持各式行動平台,目前以Android及iOS為主;已針對行動裝置最佳化,因而可大幅改善模型載入時間並支援硬體加速。

TensorFlow Lite的運作架構(下圖,來源:Google)是先訓練TensorFlow模型,再將該TensorFlow模型轉成針對速度及檔案大小最佳化的TensorFlow Lite檔案格式,接著部署至Android或iOS裝置上的行動程式。

隨著愈來愈多的行動裝置採用了客製化硬體以更有效率地處理機器學習任務,TensorFlow Lite亦支援 Android的神經網路(Neural Networks)API來利用這些新的加速器;在缺乏加速器硬體時,TensorFlow Lite亦會回頭採用最佳化的CPU執行,確保機器學習模型在各種裝置上皆能順暢運作。

現階段TensorFlow Lite已支援許多基於行動裝置的模型,如可辨識1000種物件種類的視覺模型MobileNet、比MobileNet更精確但檔案也更大的影像辨識模型Inception v3,以及對話模型Smart Reply等。

其實之前Google就曾針對行動與嵌入式裝置的模型部署發表TensorFlow Mobile,但TensorFlow Lite被視為是TensorFlow Mobile的進階版,未來可望取代TensorFlow Mobile成為Google的推薦解決方案。


Advertisement

更多 iThome相關內容