論文筆記：VarGNet: Variable Group Convolutional Neural Network for Efficient Embedded Computing

</svg>

<ul><li>固定group convolution中每個group的channel個數，而不是遵循現有的做法：固定group的個數</li><li>各層之間的計算政策由于group channel個數的固定，使得模型在硬體端更容易優化</li></ul>

<h3><a name="t1"></a><a id="_5"></a>設計滿足<a href="https://so.csdn.net/so/search?q=%E5%B5%8C%E5%85%A5%E5%BC%8F&spm=1001.2101.3001.7020" target="_blank" rel="external nofollow" target="_blank" class="hl hl-1" data-report-view="{"spm":"1001.2101.3001.7020","dest":"https://so.csdn.net/so/search?q=%E5%B5%8C%E5%85%A5%E5%BC%8F&spm=1001.2101.3001.7020"}" data-report-click="{"spm":"1001.2101.3001.7020","dest":"https://so.csdn.net/so/search?q=%E5%B5%8C%E5%85%A5%E5%BC%8F&spm=1001.2101.3001.7020"}" data-tit="嵌入式" data-pretit="嵌入式">嵌入式</a>端上網絡的幾種思路：兩個方向</h3>

<ul><li>設計出算力需求少的網絡（減少乘加次數，MAdds），如shufflenet v1/v2, mobilenet v1/v2</li><li>從FPGA（硬體）、編譯器方面入手，優化卷積等操作的計算方式 但是上述的兩個發展方向，往往是背道而馳的。如果單純降低MAdds，整體的latency就會下降；而如果單獨對編譯器/硬體進行優化，則使得網絡的優化比較局限（因為硬體優化往往是針對性的）</li><li>這裡提出的VarGNet則從兩方面同時入手：最大程度地比對資料的layout，進而使得一次卷積操作中，所需的資料都在on-chip memory中，降低on-chip/ off-chip memory的通信時間開銷</li></ul>

<h3><a name="t2"></a><a id="Vargnet_11"></a>Vargnet的改進思路</h3>

<ul><li>一個現象：若在網絡中各層的計算量是平衡的，則網絡更容易優化</li><li>基于MobileNet中的可分離卷積，本文提出了固定每個group中的通道數，自動調整group個數的vargnet</li><li>這樣做的優勢有2方面：

<ul><li>便于編譯器優化（因為每組卷積操作具有更相似的資料layout）</li><li>MobileNet中，可分離卷積實際上group個數就等于輸入channel，與之相比，variable group convolution（指的是固定每個group中的channel個數的方式）能夠增大網絡容量，進而使得整體的網絡channel個數更少，緩解了off-chip memory的通信成本</li><li>對于MobileNet V2中的Inverted Residual Block，先将輸入的通道數通過pointwise卷積放大了6倍，然後進行depthwise。由于計算模式有限，這樣的操作對編譯器不友好。是以先将輸入通道為C的feature map通過group based conv将通道數變成2C，然後再通過depthwise變成C</li></ul> </li><li>具體思路來自于卷積操作中的2個重要性質：

<ul><li>卷積核在整個卷積過程中會被多次使用(Feature Map中的每個坐标都需要)，而Feature Map隻會用一次</li><li>卷積核的記憶體占用遠比Feature Map小。一次卷積操作中，記憶體占用分别為：

k^2C

k2C vs

2HWC

2HWC(因為要存結果)</li></ul> </li><li>是以要求：1. 各層的計算強度盡可能均衡，降低總延時；2. 輸入Feature Map盡可能少（減少記憶體的排程）

<ul><li>對于1. 可以增加可分離卷積中depthwise的比例</li><li>對于2. 可以減少Feature Map的channel個數</li></ul> </li><li>可變組卷積：

<ul><li>基于上述的2點要求，我們可以回顧Group卷積所需的乘法次數，參考<a href="https://blog.csdn.net/richard_che/article/details/106293337" target="_blank" rel="external nofollow" >Convolution & DepthWise Conv</a>：

∗

\frac{k^2 * h * w * c_{in} * c_{out}}{groups}

groupsk2∗h∗w∗cin∗cout</li><li>在對比普通卷積的乘法次數：

′

∗

k'^2 * h * w * c_{in} * c_{out}

k′2∗h∗w∗cin∗cout</li><li>二者相除，比例為

∗

′

k^2 / groups * k'^2

k2/groups∗k′2。如果用可分離卷積，一般k取3或5，而

′

k′一般取1，groups一般等于輸入Feature Map的大小，比如128，256，這就導緻這兩個卷積的計算量嚴重不平衡</li><li>是以可以減少group的個數，或者增加

base = c_{in}/group

base=cin/group這個值（對于可分離卷積來說，

c_{in} = group, base = 1

cin=group,base=1），這樣就可以實作上述的要求1</li><li>base增大，意味着卷積核容量加大，表達能力提升，也可以降低

c_{in}

<ul><li>對于Normal Block而言，這樣設計的好處是，當channel數變大的時候，也可以同時Load一個depthwise(variable group conv)和一個pointwise的kernel，減少片上記憶體與片下記憶體的交換頻次</li><li>對于Downdsample BLock而言也是類似</li><li>Fig. 2為一個feature map中的一個點(k * k * c)，經過Normal BLock的計算流程。總的來說優勢在于最頻繁使用的卷積核一隻放在SRAM中，而且中間的計算結果（第一個Variable的值也在），有效地利用SRAM，避免頻繁的記憶體交換 <img src="https://img-blog.csdnimg.cn/20200602190519409.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3JpY2hhcmRfY2hl,size_16,color_FFFFFF,t_70#pic_center" alt="在這裡插入圖檔描述"></li></ul> </li></ul>

</div><div data-report-view="{"mod":"1585297308_001","spm":"1001.2101.3001.6548","dest":"https://blog.csdn.net/richard_che/article/details/106502823","extend1":"pc","ab":"new"}"><div></div></div>

</div>

論文筆記：VarGNet: Variable Group Convolutional Neural Network for Efficient Embedded Computing

繼續閱讀

證券從業合格證書什麼時候列印？有哪些注意事項？

【幹貨滿滿】初級銀行從業考試《個人理财》重點梳理

2020年經濟師考試，難嗎？

初級銀行從業資格證有什麼用？

MBA提前面試純幹貨分享

MBA值得學麼

通俗了解查準率(precision)和查全率(recall)

論文閱讀筆記（三）：Research on Network Attack Effect Evaluation Based on Confrontational Perspective一. 論文簡介二. 創新點和貢獻：三. 相關領域的概述(related work)四. 作者的方案五. 主要的資訊流（approach）六. 總結

吳恩達logistic回歸實作

【人工智能行業大師訪談1】吳恩達采訪 Geoffery Hinton

深度學習模型分析人類複雜疾病的準确性

人工智能如何有效地運用于自然語言處理

【趨高機器視覺】機器視覺技術原了解析及解決方案

吳恩達 coursera ML 第七課總結+作業答案前言目錄正文模型表示作業答案

解碼器用于語義分割：資料依賴的解碼可以實作靈活的特征聚合

cs231n斯坦福基于卷積神經網絡的CV學習筆記（一）KNN和線性分類器/分類器損失/反向傳播一，KNN圖像分類算法二，線性分類器三，線性分類器損失四，反向傳播五，神經網絡