天天看點

[CNN] 卷積、反卷積、池化、反池化

https://blog.csdn.net/quiet_girl/article/details/84579038

1、卷積的數學操作

上述是比較直覺的圖形展示的例子,如果把卷積操作寫成矩陣相乘,則對于4∗4 4*44∗4的輸入和3∗3 3*33∗3的卷積核的結果如下:

[CNN] 卷積、反卷積、池化、反池化

卷積神經網絡的數學表達式

[CNN] 卷積、反卷積、池化、反池化

三、池化

池化的定義比較簡單,最直覺的作用便是降維,常見的池化有最大池化、平均池化和随機池化。

池化層不需要訓練參數。

1、三種池化示意圖

最大池化是對局部的值取最大;平均池化是對局部的值取平均;随機池化是根據機率對局部的值進行采樣,采樣結果便是池化結果。概念非常容易了解,其示意圖如下所示:

[CNN] 卷積、反卷積、池化、反池化

2、三種池化的意義

(1)最大池化可以擷取局部資訊,可以更好保留紋理上的特征。如果不用觀察物體在圖檔中的具體位置,隻關心其是否出現,則使用最大池化效果比較好。

(2)平均池化往往能保留整體資料的特征,能凸出背景的資訊。

(3)随機池化中元素值大的被選中的機率也大,但不是像最大池化總是取最大值。随機池化一方面最大化地保證了Max值的取值,一方面又確定了不會完全是max值起作用,造成過度失真。除此之外,其可以在一定程度上避免過拟合。

3、重疊池化

一般在CNN中使用的池化都是不重疊的,但是池化也可以重疊,重疊池化和卷積操作類似,可以定義步長等參數,其和卷積的不同在于:卷積操作将視窗元素和卷積核求内積,而池化操作求最大值/平均值等,視窗的滑動等原理完全相同。

四、反池化

池化操作中最常見的最大池化和平均池化,是以最常見的反池化操作有反最大池化和反平均池化,其示意圖如下:

[CNN] 卷積、反卷積、池化、反池化

反最大池化需要記錄池化時最大值的位置,反平均池化不需要此過程。

https://blog.csdn.net/chengqiuming/article/details/80300284

繼續閱讀