Lecture 12 | Visualizing and Understanding

12.1 Feature Visualization, 倒置?, 對抗樣本?

第一層 layer 可以直接 visualize weight，因為能和 $v$ 內積最大化的 vector 會和 $v$ 很相似

後面的 layer 若直接 visualize weight，則解釋性很差，一方面因為 input channel 變很多，