OpenAI發佈了機器學習模型神經元可視化工具Microscope，可系統性的可視化數種常見模型的神經元，而這將有助於研究人員對於模型的可解釋性研究。OpenAI提到，就像是生物學家經常專注研究幾種模式生物（ModelOrganism）一樣，目前Microscope的初始版本，僅包含了9個經常受研究的視覺模型，以及對這幾個模型特別有用的數種可視化技術，接下來還會擴展應用其他模型以及技術。
神經網絡由成千上萬個神經元組成，神經元交互作用才能使神經網絡發揮功能，為了理解這些神經元的運作，OpenAI可視化這些交互作用，並且對外共享觀察結果。研究人員可以利用Microscope來驗證猜測，像是當研究人員假設InceptionV14c:447汽車偵測器，是由輪帶偵測器4b:373以及窗戶偵測器4b:237所組成，便能通過Microscope快速探索這些神經元，驗證假設正確性。
OpenAI解釋，Microscope建構於位置以及技術兩個概念之上，位置就像是顯微鏡的朝向，而技術就是固定其上的鏡頭，顯微鏡操作者可以利用特定的鏡頭看向特定的位置，也就是說，Microscope讓研究人員可運用不同的技術，深入瞭解不同位置的神經元。
機器學習模型由節點圖構成，節點與節點間以邊相連接，每個操作都包含了數百個單元，這些單元就類似大腦的神經元。目前Microscope的大多數技術，只能使用特定的分辨率，像是特徵可視化只能指向單一單元，而不能為父節點。OpenAI使用的可視化功能，包括功能可視化、DeepDream、數據集示例以及合成調校曲線，未來OpenAI還會加入更多的可視化技術。
目前這項工具還無法應用在自定義模型中，OpenAI解釋，要可視化這些模型，產生數百萬個圖像和底層數據，需要大量的分佈式作業，現在執行此操作的工具無法推出，因為都和其他基礎設施混雜在一起。不過，用戶可以取用Microscope用來可視化模型的底層技術lucid函數庫。
編輯：AI智慧
