天天看點

輕量化網絡:EffNet解析

原文: EffNet: AN EFFICIENT STRUCTURE FOR CONVOLUTIONAL NEURAL NETWORKS

論文連結:https://arxiv.org/abs/1801.06434

原文連結:https://blog.csdn.net/u011961856/article/details/79143137?utm_source=blogxgwz5

EffeNet對MoblieNet網絡進行改進,主要思想為:

       首先,将MoblieNet的3×33×3的depthwise convolution層分解為兩個3×13×1,1×31×3depthwise convolution層.這樣便可以在第一層之後就采用pool操作,進而減少第二層的計算量. 

輕量化網絡:EffNet解析

      如圖1所示,在第一個卷積層之後,使用1×21×2 max pooling操作.在第二個卷積層之後,用2×12×1,stride=1的卷積核代替1×11×1pointwise convolution.這樣計算量相同,但是可以有更高的精度.

作者試驗了MobileNet,ShuffleNet,EffNet三種子產品的分類網絡,模型結構參數如下:

輕量化網絡:EffNet解析

在Cifar10資料分類精度為:

輕量化網絡:EffNet解析

EffNet large參數量基本與Baseline相同,精度提高接近8%.

繼續閱讀