卷積神經網絡CNN的基本概念

**神經元結構：**由一個線性函數和一個非線性的激活函數構成。激活函數的作用是改變資料的線性關系，并且将輸入資料映射在某個範圍内，防止資料過大溢出。

**全連接配接：**每一層的每個神經元都與下一層的每個神經元相連，所有特征都要通過網絡計算并傳播下去。缺點：1).所有神經元都要與下層的神經元有關系，百不管它們相隔多遠；2).計算量大。實際上，圖檔識别中首先找到的是各部分的邊緣和輪廓，然後再要檢視圖檔中的資料 和這些邊緣輪廓的關系(基本思路)。

**卷積核：**用來檢測某一方面的特征，比如垂直邊界、水準邊界等特征，又稱為過濾器。卷積核大小可以指定為小于輸入圖像尺寸的任意值，卷積核越大，可提取的輸入特征越複雜。

**卷積神經網絡的參數：**1).卷積核大小，2).填充，3).步長。

卷積（Convolution）：用卷積核将相鄰像素之間的“輪廓”過濾出來。實際上，一個n乘n的圖像經過f乘f的卷積核處理後，圖像變小了，如果神經網絡層數越來越多，會越來越小，同時，進行卷積時，邊緣資訊用到的時候很少

填充：是将輸入圖像的邊緣用0填充。如果想要實作輸入圖像和輸出圖像的大小一緻，填充的位數p滿足p=(f-1)/2.

**步長(Stride)：**卷積是通過一步一步的移動卷積核 視窗将圖像卷積完成，一般一次隻移動一格，實際上移動的步伐 可以邁得更大。

**卷積輸出大小計算公式：**假設輸入圖像n乘n，過濾器f乘f，填充p，步長s，則輸出：

​ O = ( n - f + 2P ) / s +1

​ 例：輸入圖像5乘5，過濾器3乘3，填充1，步長2，則輸出為(5 - 3 + 2 * 1) / 2 + 1 = 3,3X3的圖像

**通道：**一般彩色圖像有三個顔色通道，對應紅綠藍三種顔色（RGB）。分别為紅色通道、綠色通道、藍色通道。進行卷積時，卷積核由1個變為相同的3個，分别和各個通道的矩陣卷積，然後加在一起。

**激活：**對于卷積神經網絡，在濾波器之後也需要一個激活層，一般函數也是用ReLU函數 ，對于單個卷積核，和輸入圖像進行卷積，并加上偏置量，再送入ReLU函數激活，且多個卷積核重複上述步驟。

池化的作用：降維

Dropout層的作用：防止CNN過拟合，以一定的機率将神經元暫時從網絡中丢棄。