天天看點

深度學習_卷積神經網絡

卷積神經網絡(Convolutional Neural Network, CNN)用于圖像識别,在CNN 中有卷積層(Convolution層)、池化層(Pooling層)和全連接配接層(fully-connected), 随着網絡深度的加深,高度和寬度會逐漸減小,信道的數量逐漸增加。

常見的卷積神經網絡有兩種:

(1)Input -> 卷積層 -> 池化層 -> 卷積層 -> 池化層 -> …… -> 全連接配接層(幾個)-> Softmax -> Output

(2)Input -> 卷積層(一個或多個)-> 池化層 -> 卷積層(一個或多個)-> 池化層 -> …… -> 全連接配接層(幾個)-> Softmax -> Output

1.卷積層

卷積層可以使圖像保持形狀不變,能正确了解圖像等具有形狀的資料,避免了全連接配接層無法利用與形狀相關的資訊。過濾器大小通常是奇數。

卷積運算:

深度學習_卷積神經網絡
深度學習_卷積神經網絡

卷積運算加偏置,是把偏置分别加到各個像元上

深度學習_卷積神經網絡

三維資料的卷積運算,有幾個通道就需要幾個濾波器,然後對應通道進行卷積運算,再把各通道計算值相加。

深度學習_卷積神經網絡
深度學習_卷積神經網絡

把資料看作是方塊,進行了解;濾波器與輸入資料具有一樣的通道,最後輸出資料是一維的。

深度學習_卷積神經網絡

選擇FN個濾波器,會生成FN維的輸出資料

深度學習_卷積神經網絡

2.填充

填充是在輸入資料周圍填入固定的資料(比如0),主要是為了調整輸出資料的大小。

一般有兩種方式:

(1)不填充

(2)填充使圖像卷積後大小不變

深度學習_卷積神經網絡

3.步幅

步幅就是使用濾波器時的位置間隔。

深度學習_卷積神經網絡

輸出資料大小計算式:

深度學習_卷積神經網絡

H: 輸入資料的高

W: 輸入資料的寬

FH: 濾波器的高

FW: 濾波器的寬

P: 填充

S: 步幅

OH: 輸出資料的高

OW: 輸出資料的寬

4.池化層

采用池化層是為了縮小圖像,“輸出資料大小計算式”也适用于池化層的計算。

有兩種池化方式:

(1)Max 池化

(2)Average 池化

深度學習_卷積神經網絡

特點:

(1)池化過程中沒有要學習的參數

(2)池化前後通道數不發生變化

深度學習_卷積神經網絡

(3)對微小的位置變化具有魯棒性(健壯)

繼續閱讀