天天看點

shufflenet v1

shufflenet v1主要提出了pointwise group convolution 和 channel shuffle 結構,在保持模型精度的前提下,進一步減小了網絡的計算量

自mobilenet v1出來後,對于小網絡模型,其主要結構就是1 × 1的卷積核,是以模型的計算量主要集中在 1 × 1 的卷積運算上,為了提升模型的推理

速度,需要進一步減少 1 × 1 的卷積核的個數,如果直接減少 1 × 1 的卷積層的通道數,會導緻模型精度損失嚴重。為了解決該問題,作者提出了 pointwise group convolution

結構,實際上就是對原始的 1 × 1 的layer,使用了分組卷積,在保留輸出通道數不變的情況下進一步減少了計算量。

但是分組卷積有其自身的缺點,每次卷積運算隻作用于相應組的輸入通道,如果堆疊多個分組卷積,則最終輸出中的特定通道特征圖隻來源于相應組的輸入通道,

進而削弱了網絡的表達能力,為了解決該問題,作者提出了 channel shuffle 操作。具體如下圖

shufflenet v1

針對上文中提出的pointwise group convolution 和 channel shuffle 結構,作者設計了新的ShuffleNet Unit,具體結構如下圖

shufflenet v1
shufflenet v1
shufflenet v1
shufflenet v1
其中g表示分組數,s表示通道數的縮放比例。
shufflenet v1
shufflenet v1
shufflenet v1
shufflenet v1
shufflenet v1
shufflenet v1
shufflenet v1

論文:https://arxiv.org/pdf/1707.01083v2.pdf

繼續閱讀