OpenAI發布機器學習模型神經元視覺化工具Microscope

OpenAI發布了機器學習模型神經元視覺化工具Microscope，可系統性地視覺化數種常見模型的神經元，而這將有助於研究人員對於模型的可解釋性研究。OpenAI提到，就像是生物學家經常專注研究幾種模式生物（Model Organism）一樣，目前Microscope的初始版本，僅包含了9個經常受研究的視覺模型，以及對這幾個模型特別有用的數種視覺化技術，接下來還會擴展應用其他模型以及技術。

神經網路由成千上萬個神經元組成，神經元交互作用才能使神經網路發揮功能，為了理解這些神經元的運作，OpenAI視覺化這些交互作用，並且對外共享觀察結果。研究人員可以利用Microscope來驗證猜測，像是當研究人員假設InceptionV1 4c:447汽車偵測器，是由輪胎偵測器4b:373以及窗戶偵測器4b:237所組成，便能透過Microscope快速探索這些神經元，驗證假設正確性。

OpenAI解釋，Microscope建構於位置以及技術兩個概念之上，位置就像是顯微鏡的朝向，而技術就是固定其上的鏡頭，顯微鏡操作者可以利用特定的鏡頭看向特定的位置，也就是說，Microscope讓研究人員可運用不同的技術，深入了解不同位置的神經元。

機器學習模型由節點圖構成，節點與節點間以邊相連接，每個操作都包含了數百個單元，這些單元就類似大腦的神經元，OpenAI提到，目前Microscope的大多數技術，只能使用特定的解析度，像是特徵視覺化只能指向單一單元，而不能為父節點。OpenAI使用的視覺化功能，包括功能視覺化、DeepDream、資料集範例以及合成調校曲線，未來OpenAI還會加入更多的視覺化技術。

目前這項工具還無法應用在自定義模型中，OpenAI解釋，要視覺化這些模型，產生數百萬個圖像和底層資料，需要大量的分散式作業，現在執行此操作的工具無法釋出，因為都和其他基礎設施混雜在一起，不過，用戶可以取用Microscope用來視覺化模型的底層技術lucid函式庫。