人工神經網絡中的FullyConnectedLayer(全連接配接層)、LocallyConnectedLayer(局部連接配接層)、CNN(卷積神經網絡)的定義
- FullyConnectedLayer
- CNN(卷積神經網絡)
- LocallyConnectedLayer
FullyConnectedLayer
普通的線性連接配接層,某一層的輸出向量中的單個元素與輸入向量中的每一個元素都有連接配接。
CNN(卷積神經網絡)
卷積操作相對于全連接配接層具有局部連接配接、權值共享的特點。【局部連接配接】就是某一層的輸出向量中每個元素與輸入向量的部分元素連接配接,連接配接變少網絡中的參數(權值)量就變少了,連接配接變少也會使計算量變少;【權值共享】就是卷積核在輸入資料(一般是1維、2維、3維tensor)上移動時權值是共用的,這進一步使網絡中的參數量減少。
LocallyConnectedLayer
局部連接配接層相當于權值不共享的卷積層,它有【局部連接配接】的特點,但是卷積核每移動一個位置卷積核的參數(權值)都會更換。