文章目錄
- local receptive field
- Shared weights
- spatial or temporal subsampling
local receptive field
局部感受野，也叫感受視野域。
這個 local receptive field 就像一個小窗戶一樣叫感受視野，如下圖。
透過這個窗戶能看到的視野就是 左邊的 5 * 5 的矩形，其對應這右邊這個矩形中的 1*1的點。
顯然這個窗戶中有 5*5=25個權重值 （可能還含有一個偏置量b）。
随着窗戶的不斷移動，可以将右邊的矩形中的點全部填滿。
這個窗戶 就叫卷積核。
Shared weights
共享權重。
一個窗戶 即卷積核可以對一張圖像進行操作，這個過程中卷積核的參數不會被改變，這就是權重共享。
像下面這張圖一樣 左邊的input為輸入圖像，中間的kernel就是窗戶，用這個小窗戶去看輸入的圖像，不論怎麼移動窗戶，該窗戶中的數字都是不變的。
spatial or temporal subsampling
空間或時間的子采樣。
一般就叫做采樣層。
這裡提一下，采樣層 并不是池化層。 池化層包含在采樣層内，即 池化操作是采樣的一種方法。
池化層一般接在卷積層後面，用于簡化卷積的輸出結果。
其實就是把卷積層的輸出結果進行壓縮。
像下面這張圖，就是将四個元素壓縮成了一個元素。