全連接配接神經網絡和卷積神經網絡的差別

在這裡大緻說明以一下我在學習過程中的了解：

       卷積神經網絡也是通過一層一層的節點組織起來的。和全連接配接神經網絡一樣，卷積神經網絡中的每一個節點就是一個神經元。在全連接配接神經網絡中，每相鄰兩層之間的節點都有邊相連，于是會将每一層的全連接配接層中的節點組織成一列，這樣友善顯示連接配接結構。而對于卷積神經網絡，相鄰兩層之間隻有部分節點相連，為了展示每一層神經元的次元，一般會将每一層卷積層的節點組織成一個三維矩陣。

       除了結構相似，卷積神經網絡的輸入輸出以及訓練的流程和全連接配接神經網絡也基本一緻，以圖像分類為列，卷積神經網絡的輸入層就是圖像的原始圖像，而輸出層中的每一個節點代表了不同類别的可信度。這和全連接配接神經網絡的輸入輸出是一緻的。類似的，全連接配接神經網絡的損失函數以及參數的優化過程也都适用于卷積神經網絡。是以，全連接配接神經網絡和卷積神經網絡的唯一差別就是神經網絡相鄰兩層的連接配接方式。

      但是，通過我後面的學習，我發現全神經網絡無法很好地處理好圖像資料，然而卷積神經網絡卻很好地客服了這個缺點，使用全連接配接神經網絡處理圖像的最大問題就是：全連接配接層的參數太多，對于MNIST資料，每一張圖檔的大小是28*28*1，其中28*28代表的是圖檔的大小，*1表示圖像是黑白的，有一個色彩通道。假設第一層隐藏層的節點數為500個，那麼一個全連接配接層的神經網絡有28*28*500+500=392500個參數，而且有的圖檔會更大或者是彩色的圖檔，這時候參數将會更多。參數增多除了導緻計算速度減慢，還很容易導緻過拟合的問題。是以需要一個合理的神經網絡結構來有效的減少神經網絡中參數的個數。卷積神經網絡就可以更好的達到這個目的。