圖片來源：OpenAI顯微鏡
OpenAI今天發佈了Microscope，這是一個神經元可視化庫，從九個流行的或重度神經網絡開始。總而言之，該集合包含數百萬張圖像。顯微鏡可以像實驗室中的顯微鏡一樣工作，可以幫助AI研究人員更好地理解具有成千上萬個神經元的神經網絡的結構和行為。
顯微鏡的初始模型包括歷史上重要且經過廣泛研究的計算機視覺模型，例如AlexNet（2012年已退休的ImageNet挑戰賽冠軍）。AlexNet在研究中被引用了50,000次以上。2014年還有ImageNet贏家GoogleNet（又名Inception V1）和ResNet v2。每種模型可視化都帶有一些場景，並且圖像在OpenAI Lucid庫中可用，可以在 Creative Commons許可下重複使用。
上圖：神經元可視化
“儘管我們對有興趣探索神經網絡工作原理的任何人都可用，但我們認為主要價值在於提供持久的共享工件以促進對這些模型的長期比較研究。我們還希望具有相鄰專業知識的研究人員（例如神經科學）能夠在更輕鬆地處理這些視覺模型的內部工作中找到價值，” OpenAI在顯微鏡網站上說。
OpenAI在今天上午介紹顯微鏡的博客文章中表示，希望顯微鏡將通過了解神經元之間的連接，為電路協作工作做出貢獻，以對神經網絡進行逆向工程。
除了顯微鏡的神經元可視化之外，近年來的一些工作還試圖可視化機器學習模型的活動。
Facebook的Captum於去年秋天推出，使用可視化來解釋機器學習模型做出的決策，而在2019年3月，OpenAI和Google發佈了激活地圖集技術，以可視化機器學習算法做出的決策。訓練機器學習模型時，還有流行的TensorBoard工具用於可視化。
分享到:
