Caffe学习笔记1——网络配置文件参数

布满荆棘的人生 2022-05-30 23:50 178阅读 0赞

## 数据层 ##

layer {
      name: "mnist" #数据名称，比较随意
      type: "Data"  #类型，Data表示数据
      top: "data"   #top表示输出，bottom表示输入，多个top表示多个输出
      top: "label"  #输出数据和标签
      include {
        phase: TRAIN # 训练网络分为训练阶段和自测阶段，如果没有include，表示该层既在测试中也在训练中
      }
      transform_param {
        mean-file：/xxxx/xxx/mean.binaryproto # 用一个配置文件求出均值（RGB三通道）
        scale: 0.00390625 # 归一化，乘以1/255
        mirror：1 # 数据增强策略——镜像，0不做变换
        crop_size：227 # 数据增强策略——随机切出227×227的图片区域
      }
      data_param {
        source: "examples/mnist/mnist_train_lmdb" #数据来源
        batch_size: 64 # 每次批处理训练个数，一般2的次方，越大过拟合现象越少
        backend: LMDB # 数据格式
      }
    }

## 卷积层 ##

layer {
      name: "conv1"
      type: "Convolution"
      bottom: "data"
      top: "conv1"
      param {
        lr_mult: 1 # 该层学习率的系数，最终学习率是这个数乘以solver.protoxt文件中的base_lr。
                   # 如果有两个lr_mult,第一个表示权值的学习率。
      }
      param {
        lr_mult: 2 # 第二个表示偏置项的学习率。一般偏置是权值的两倍。
                   # 如果让该层不更新，可以两个参数设置为0,让其他参数更新。
      }
      convolution_param {
        num_output: 20 # 卷积核（filter）种类个数
        kernel_size: 5 # 卷积核尺寸（通过前面层确定卷积核的深度）
        stride: 1 # 卷积核的步长
        pad: 0 # 扩充边缘，默认为0,不扩充
        weight_filler {
          type: "xavier" # 权值初始化。默认为“constant”,很多时候用“xavler”算法进行初始化,也可以设置为“gaussian”。
        }
        bias_filler {
          type: "constant" # 偏置初始化。一般设置为“constant”，值全为0
        }
      }
    }

## 池化层 ##

layer {
      name: "pool1"
      type: "Pooling"
      bottom: "conv1"
      top: "pool1"
      pooling_param {
        pool: MAX # 池化方法，默认为MAX，还可以AVE。(大多数为MAX)
        kernel_size: 2 # 池化核大小
        stride: 2 # 步长大小。默认为1,一般设置为2,即不重复。
      }
    }

注：pooling层的运算方法和卷积层基本一样。

## 激活层 ##

1.  Sigmod：可能会出现杀死梯度的现象，用的很少。
    
        layer {
        name: "test"
        type: "Sigmod"
        bottom: "pool1"
        top: "pool1"
        }
2.  ReLU：是目前使用最多的激活函数，主要因为其收敛最快，并且能保持同样的效果。标准的ReLU函数为max(x, 0)，当x>0时，输出x；当x<=0时，输出0。
    
        layer {
        name: "relu1"
        type: "ReLU"
        bottom: "pool1"
        top: "pool1"
        }

## 全连接层 ##

最终输出一个简单的向量，参数和卷积层一样。将之前提取的特征进行总结。

layer {
      name: "ip1"
      type: "InnerProduct"
      bottom: "pool2"
      top: "ip1"
      param {
        lr_mult: 1
      }
      param {
        lr_mult: 2
      }
      inner_product_param {
        num_output: 500 # 希望得到的输出向量大小
        weight_filler {
          type: "xavier"
        }
        bias_filler {
          type: "constant"
        }
      }
    }

## 测试准确率 ##

layer {
      name: "accuracy"
      type: "Accuracy"
      bottom: "ip2" # 两个输入，一个全连接层的结果
      bottom: "label" # 另一个是标签
      top: "accuracy"
      include {
        phase: TEST
      }
    }

## Softmax ##

1.  softmax-loss layer：输出loss值
    
        layer {
        name: "loss"
        type: "SoftmaxWithLoss"
        bottom: "ip2"
        bottom: "label"
        top: "loss"
        }
2.  softmax layer：输出似然值
    
        layer {
        name: "prob"
        type: "Softmax"
        bottom: "cls3_fc"
        top: "prob"
        }

## reshape层 ##

在不改变数据的情况下，改变输入的维度。

layer {
      name: "reshape"
      type: "Reshape"
      bottom: "input"
      top: "output"
      reshape_param {
        shape {
          dim: 0
          dim: 2
          dim: 3
          dim: -1
        }
      }
    }

有一个可选的参数组shape，用于指定blob数据的各维的值（blob是一个四维的数据：n\*c\*w\*h)——图片数、通道数、宽、高。

1.  dim：0 表示维度不变，即输入和输出是相同的维度。
2.  dim：2 或 dim：3 表示将原来的维度变为2或者3。
3.  dim：-1 表示按照数据总量大小不变原则，自行计算维度大小。

## dropout ##

Dropout是一个防止过拟合的层。仅需设置一个dropout\_ratle即可。

layer {
      name: "drop7"
      type: "Dropout"
      bottom: "fc7.conv"
      top: "fc7.conv"
      dropout_param {
        dropout_ratle: 0.5 # 杀死率
      }
    }