人工神经网络中的FullyConnectedLayer（全连接层）、LocallyConnectedLayer（局部连接层）、CNN（卷积神经网络）的定义

• FullyConnectedLayer
• CNN（卷积神经网络）
• LocallyConnectedLayer

FullyConnectedLayer

普通的线性连接层，某一层的输出向量中的单个元素与输入向量中的每一个元素都有连接。

CNN（卷积神经网络）

卷积操作相对于全连接层具有局部连接、权值共享的特点。【局部连接】就是某一层的输出向量中每个元素与输入向量的部分元素连接，连接变少网络中的参数（权值）量就变少了，连接变少也会使计算量变少；【权值共享】就是卷积核在输入数据（一般是1维、2维、3维tensor）上移动时权值是共用的，这进一步使网络中的参数量减少。

LocallyConnectedLayer

局部连接层相当于权值不共享的卷积层，它有【局部连接】的特点，但是卷积核每移动一个位置卷积核的参数（权值）都会更换。