Efficientnet筆記：各個架構最适合的圖像尺寸

作者對神經網路的擴充過程進行了研究與反思。特别的是，作者提出了一個思考：能否找到一個規範化的神經網絡擴充方法可以同時提高網絡的準确率和效率。要實作這點，一個很關鍵的步驟便是如何平衡寬度、深度和分辨率這三個次元。作者通過一些經驗性的研究發現，可以使用一種固定比例的放縮操作簡單地實作對三者的平衡。最終，作者提出了一種簡單卻有效的複合擴充方法（compound scaling method）。例如，對于一個标準的模型，如果想使用 2^N 倍的計算資源，作者認為隻需要對網絡寬度增加αN，深度增加βN，以及增加γ^N 倍的圖像大小。其中α、β、γ是一組恒定系數，他們的值通過在原始的标準模型中使用小範圍的網格搜尋（grid search）得到。

efficientnet-b0-224

efficientnet-b1-240

efficientnet-b2-260

efficientnet-b3-300

efficientnet-b4-380

efficientnet-b5-456

efficientnet-b6-528

efficientnet-b7-600