深度學習的效果越來越好,在一些方面甚至超過了人類水平,為了更好地理解神經網絡如何識別特定模式的圖像,以及為什麼識別結果可以如此準確,需要從更深層次,即識別過程去了解神經網絡.一旦瞭解了識別過程,我們就可以對神經網絡做進一步的改進,另一方面也有助於人類理解機器作出決策的過程及原因,這一點在智能醫療中顯得尤為重要.

特徵圖的顯著激活
一旦神經網絡中的某個特徵圖被顯著激活,就可以認為輸入圖像與此特徵圖密切相關.
有兩種方法可以被用來探究特徵圖的顯著激活:
1.固定一系列特徵圖,通過原始圖像的輸入來判斷各特徵圖的激活情況,從中找出與原始圖像對應的激活最顯著的特徵圖.即在數據集中查找導致此特徵圖高於平均激活的圖像.
2.固定某個特徵圖,然後利用random函數生成一幅隨機圖像,通過優化隨機圖像中的像素值來找到與特徵圖相符的特徵模式.

實例
首先,對VGG網絡中的幾個層次的特徵圖進行可視化,然後對可視化過程進行理解,例如推測特定的濾波器會檢測到哪種模式.

特徵可視化
神經網絡將輸入數據轉化為越來越有意義但表徵越來越複雜的連續層.
可以將深度神經網絡看做一個多階段信息精煉與提純的操作,信息通過連續的過濾器被不斷"提純"