卷積層(Convolution)是如何向後傳播(Backpropagations)的呢

假設下圖中Convolution代表卷積層,X代表卷積層的feature輸入,F代表卷積核,O則代表卷積層的輸出。

則向前傳播計算過程如下,

向後傳播怎麼計算呢?
向後傳播計算的是損失函數L對參數F的導數,可以通過下面公式計算,其中 ∂ L ∂ O \frac{\partial L}{\partial O} ∂O∂L​是後面層傳遞回來的,這一層計算的是 ∂ O ∂ F \frac{\partial O}{\partial F} ∂F∂O​,從上面的公式可以看到 ∂ O ∂ F \frac{\partial O}{\partial F} ∂F∂O​就是輸入的X,所以 ∂ L ∂ F \frac{\partial L}{\partial F} ∂F∂L​的計算過程如下,

展開之後如下,