caffe用python加载数据，包含各类数据类型（LMDB,image,HDF5等共五种全部格式））--caffe学习(3)

caffe的数据层是网络的第一层，也就是data层，今天我们就先介绍一下数据层。

数据层是每个模型的最底层，是模型的入口，不仅提供数据的输入，也提供数据从Blobs转换成别的格式进行保存输出。通常数据的预处理（如减去均值, 放大缩小, 裁剪和镜像等），也在这一层设置参数实现。

数据来源可以来自高效的数据库（如LevelDB和LMDB），也可以直接来自于内存。如果不是很注重效率的话，数据也可来自磁盘的hdf5文件和图片格式文件。

所有的数据层的都具有的公用参数：

一般的数据层proto文件类似：

layer {
  name: "cifar"
  type: "Data"
  top: "data"
  top: "label"
  include {
    phase: TRAIN
  }
  transform_param {
    mean_file: "examples/cifar10/mean.binaryproto"
  }
  data_param {
    source: "examples/cifar10/cifar10_train_lmdb"
    batch_size: 
    backend: LMDB
  }
}
           

其中各个参数含义如下：

name: 表示该层的名称，可随意取

type: 层类型，如果是Data，表示数据来源于LevelDB或LMDB。根据数据的来源不同，数据层的类型也不同（后面会详细阐述）。一般在练习的时候，我们都是采 用的LevelDB或LMDB数据，因此层类型设置为Data。

top或bottom: 每一层用bottom来输入数据，用top来输出数据。如果只有top没有bottom，则此层只有输出，没有输入。反之亦然。如果有多个 top或多个bottom，表示有多个blobs数据的输入和输出。

data 与 label: 在数据层中，至少有一个命名为data的top。如果有第二个top，一般命名为label。 这种(data,label)配对是分类模型所必需的。

Transformations: 数据的预处理，可以将数据变换到定义的范围内。如设置scale为0.00390625，实际上就是1.0/255, 即将输入数据由0-255归一化到0-1之间

其它的数据预处理也在这个地方设置：

transform_param {
    scale: /
    mean_file_size: "examples/cifar10/mean.binaryproto"
    # 用一个配置文件来进行均值操作
    mirror:   # 1表示开启镜像，0表示关闭，也可用ture和false来表示
    # 剪裁一个 227*227的图块，在训练阶段随机剪裁，在测试阶段从中间裁剪
    crop_size: 
  }
           

后面的data_param部分，就是根据数据的来源不同，选用不同的python借口API:普遍适用的参数如下：

source: 一个文本文件的名字，每一行给定一个图片文件的名称和标签（label)

batch_size: 每一次处理的数据个数，即图片数

可选参数：

rand_skip: 在开始的时候，路过某个数据的输入。通常对异步的SGD很有用。

shuffle: 随机打乱顺序，默认值为false

new_height,new_width: 如果设置，则将图片进行resize

1：数据来自于数据库（如LevelDB和LMDB）

需要提前将jpg或者jpeg文件格式的图片转换为lmdb数据，转换方法可调用caffeconvert_imagenet工具

import caffe
from caffe import layers as L,params as P,to_proto
 data, label = L.Data(source=source_list, backend=P.Data.LMDB, batch_size=batch_size, ntop=2,transform_param=dict(crop_size=227,mean_file=mean_file,mirror=True))
           

2：数据来源于数据来自于内存

3：数据来源于数据来自于HDF5

也可以参考：caffe官网的教程

4：数据来源于image图片数据

这时不需要将jpg或者jpeg文件格式的图片转换为lmdb数据，只需要提供一个原始的文件列表名即可。

5：最后一种很不常用的就是数据来源于windows

实际使用中一般1，3，4用得最多，可以将代码综合成一个文件就能针对不同数据格式调用