寫目錄
- 一. 簡介
- 二. 模型結構
-
- 2.1 正常卷積操作
- 2.2 深度可分離卷積
- 三. 總結
一. 簡介
論文位址：mobilenet-v1
二. 模型結構
mobilenet提出了一種叫做Depthwise separable convolution的卷積結構，翻譯過來即 深度可分離卷積。那跟平時的卷積有什麼差別呢。首先看下原來正常的卷積結構。
2.1 正常卷積操作
假設現在有：
- input channel: N
- output channel: M
- kernel size: k
那麼正常的參數量為：N* M* k* k。
簡單的示意圖如下所示：
(這裡假設N=3, M=2)
2.2 深度可分離卷積
- step1，對于每個通道的輸入，隻用單個卷積核對它進行處理，這一步參數量為：k* k* N。（此時，參數的計算暫時與output channel無關），這個階段叫做depthwise convolutions。
- step2，正常卷積操作，隻不過卷積核大小為1x1，這一步是為了把第一步分離計算的結果合并，這一步的參數量為：N* M。這個階段叫做pointwise convolutions。
- 總的參數量為：k* k* N + N* M。
- 與正常卷積相比：（k* k* N + N* M）/ N* M* k* k = 1/M + 1/k^2。參數量少了很多
整個示意圖如下圖所示：
(input channel=3, output channel=2)
三. 總結
MobileNet的優點是可以大大減少模型的參數，可以部署在移動端。如論文中的圖所示：
結束。