臉書創建了開源Glow框架,透過社群之力驅動建構硬體生態系,以實現機器學習硬體加速,Cadence、Esperanto、英特爾、Marvell和高通都已經承諾會在未來的晶片支援Glow。

臉書為了要擴展PyTorch等深度學習框架的應用,因此需要能提供各種最佳化以及加速推測功能的編譯器,以便使用硬體平臺支援越來越多的人工智慧與機器學習應用。臉書因此創造了開源框架Glow,以社群驅動的方式,推動建構機器學習硬體生態系。讓相關硬體供應商利用開源的編譯器軟體,快速設計出機器學習最佳化的產品。

Glow能幫助硬體開發人員,打造下一代支援深度學習框架的硬體加速器。

硬體加速器為專門用來執行機器學習工作負載而設計,通常包含大量的執行單元、晶片記憶體組以及特用應用程式專用電路,來高效率執行機器學習任務。但為了在專用的硬體上執行機器學習程式,必須要編譯器配合,以產生能夠協調不同部分,使之共同協作的程式碼,因此像是PyTorch這類機器學習框架,都必須仰賴編譯器來實現硬體加速。

機器學習硬體加速器要解決一系列的問題,部分硬體需要專用於推理,另一部分則專注於訓練,每種型號又有不同的記憶體以及處理器配置,這讓加速器的設計工作變得困難,而Glow的目的在於針對各類硬體加速器,使編譯器具硬體獨立性的部分,專注最佳化那些也無硬體型號相依的數學相關部分。

除了硬體獨立最佳化之外,Glow包含了許多公用程式以及建置單元,用來支援多種硬體。這些內建的工具有像是編譯器記憶體配置器,來為不同記憶體配置的各式硬體加速器,產生高效率程式碼。此外,還包括強大的線性代數最佳化程式、可擴充測試套件,以及用於硬體加速器精確測試的基於CPU參照實作,還有記憶體配置器與指令調度器。

Glow可以幫助硬體開發商減少產品上市的時間,而且其提供的測試工具,能增加硬體供應商對編譯器精確性與PyTorch規範一致性的信心。現在Cadence、Esperanto、英特爾、Marvell和高通都已經承諾,將會在未來的晶片支援Glow框架。


Advertisement

更多 iThome相關內容