OpenAI發布了機器學習模型神經元視覺化工具Microscope,可系統性地視覺化數種常見模型的神經元,而這將有助於研究人員對於模型的可解釋性研究。OpenAI提到,就像是生物學家經常專注研究幾種模式生物(Model Organism)一樣,目前Microscope的初始版本,僅包含了9個經常受研究的視覺模型,以及對這幾個模型特別有用的數種視覺化技術,接下來還會擴展應用其他模型以及技術。

神經網路由成千上萬個神經元組成,神經元交互作用才能使神經網路發揮功能,為了理解這些神經元的運作,OpenAI視覺化這些交互作用,並且對外共享觀察結果。研究人員可以利用Microscope來驗證猜測,像是當研究人員假設InceptionV1 4c:447汽車偵測器,是由輪胎偵測器4b:373以及窗戶偵測器4b:237所組成,便能透過Microscope快速探索這些神經元,驗證假設正確性。

OpenAI解釋,Microscope建構於位置以及技術兩個概念之上,位置就像是顯微鏡的朝向,而技術就是固定其上的鏡頭,顯微鏡操作者可以利用特定的鏡頭看向特定的位置,也就是說,Microscope讓研究人員可運用不同的技術,深入了解不同位置的神經元。

機器學習模型由節點圖構成,節點與節點間以邊相連接,每個操作都包含了數百個單元,這些單元就類似大腦的神經元,OpenAI提到,目前Microscope的大多數技術,只能使用特定的解析度,像是特徵視覺化只能指向單一單元,而不能為父節點。OpenAI使用的視覺化功能,包括功能視覺化、DeepDream、資料集範例以及合成調校曲線,未來OpenAI還會加入更多的視覺化技術。

目前這項工具還無法應用在自定義模型中,OpenAI解釋,要視覺化這些模型,產生數百萬個圖像和底層資料,需要大量的分散式作業,現在執行此操作的工具無法釋出,因為都和其他基礎設施混雜在一起,不過,用戶可以取用Microscope用來視覺化模型的底層技術lucid函式庫。


Advertisement

更多 iThome相關內容