Caffe fine-tuning 微调网络

分手后的思念是犯贱 2022-05-13 09:06 125阅读 0赞

转自[Caffe fine-tuning 微调网络][Caffe fine-tuning]

一般来说我们自己需要做的方向，比如在一些特定的领域的识别分类中，我们很难拿到大量的数据。因为像在ImageNet上毕竟是一个千万级的图像数据库，通常我们可能只能拿到几千张或者几万张某一特定领域的图像，比如识别衣服啊、标志啊、生物种类等等。在这种情况下重新训练一个新的网络是比较复杂的，而且参数不好调整，数据量也不够，因此fine-tuning微调就是一个比较理想的选择。

所谓fine tune就是用别人训练好的模型，加上我们自己的数据，来训练新的模型。fine tune相当于使用别人的模型的前几层，来提取浅层特征，然后在最后再落入我们自己的分类中。

fine tune的好处在于不用完全重新训练模型，从而提高效率，因为一般新训练模型准确率都会从很低的值开始慢慢上升，但是fine tune能够让我们在比较少的迭代次数之后得到一个比较好的效果。在数据量不是很大的情况下，fine tune会是一个比较好的选择。但是如果你希望定义自己的网络结构的话，就需要从头开始了。

我们可以在ImageNet上1000类分类训练好的参数的基础上，根据我们的分类识别任务进行特定的微调。

这里我以一个车型的识别为例，假设我们有431种车型需要识别，我的任务对象是车，现在有ImageNet的模型参数文件，在这里使用的网络模型是CaffeNet，是一个小型的网络，其实别的网络如GoogleNet也是一样的原理。那么这个任务的变化可以表示为：

任务：分类
    类别数目：1000（ImageNet上1000类的分类任务）------> 431(自己的特定数据集的分类任务431车型)
    
    利用已有网络及模型：
    ./models/bvlc_reference_caffenet/

那么在网络的微调中，我们的整个流程分为以下几步：

1.  依然是准备好我们的训练数据和测试数据
2.  计算数据集的均值文件，因为集中特定领域的图像均值文件会跟ImageNet上比较General的数据的均值不太一样
3.  修改网络最后一层的输出类别，并且需要加快最后一层的参数学习速率
4.  调整Solver的配置参数，通常学习速率和步长，迭代次数都要适当减少
5.  启动训练，并且需要加载pretrained模型的参数

简单的用流程图示意一下：

![686170-20151211133602980-1333820622.png][]

### 1.准备数据集 ###

这一点就不用说了，准备两个txt文件，放成list的形式，可以参考caffe下的example，图像路径之后一个空格之后跟着类别的ID，如下，这里记住ID必须从0开始，要连续，否则会出错，loss不下降，按照要求写就OK。  
这个是训练的图像label，测试的也同理  
![686170-20151211133620183-441244606.jpg][]

### 2.计算数据集的均值文件 ###

使用caffe下的convert\_imageset工具

具体命令是

> /home/chenjie/louyihang/caffe/build/tools/convert\_imageset /home/chenjie/DataSet/CompCars/data/cropped\_image/ ../train\_test\_split/classification/train\_model431\_label\_start0.txt ../intermediate\_data/train\_model431\_lmdb -resize\_width=227 -resize\_height=227 -check\_size -shuffle true

其中第一个参数是基地址路径用来拼接的，第二个是label的文件，第三个是生成的数据库文件支持leveldb或者lmdb，接着是resize的大小，最后是否随机图片顺序

### 3.调整网络层参数 ###

参照Caffe上的例程，我用的是CaffeNet，首先在输入层data层，修改我们的source 和 meanfile， 根据之前生成的lmdb 和mean.binaryproto修改即可  
最后输出层是fc8，  
**1.首先修改名字，这样预训练模型赋值的时候这里就会因为名字不匹配从而重新训练，也就达成了我们适应新任务的目的。**  
**1.调整学习速率，因为最后一层是重新学习，因此需要有更快的学习速率相比较其他层，因此我们将，weight和bias的学习速率加快10倍。**  
原来是fc8，记得把跟fc8连接的名字都要修改掉，修改后如下

![686170-20151211133633590-1019495774.jpg][]

### 4.修改Solver参数 ###

原来的参数是用来training from scratch，从原始数据进行训练的，因此一般来说学习速率、步长、迭代次数都比较大，在fine-tuning 微调呢，也正如它的名字，只需要微微调整，以下是两个对比图

![686170-20151211133644121-111741126.jpg][]

主要的调整有：test\_iter从1000改为了100，因为数据量减少了，base\_lr从0.01变成了0.001，这个很重要，微调时的基本学习速率不能太大，学习策略没有改变，步长从原来的100000变成了20000，最大的迭代次数也从450000变成了50000，动量和权重衰减项都没有修改，依然是GPU模型，网络模型文件和快照的路径根据自己修改

### 5.开始训练！ ###

首先你要从caffe zoo里面下载一下CaffeNet网络用语ImageNet1000类分类训练好的模型文件，名字是bvlc\_reference\_caffenet.caffemodel  
训练的命令如下：

![686170-20151211133655543-1124765048.jpg][]

OK，最后达到的性能还不错accuray 是0.9，loss降的很低，这是我的caffe初次体验，希望能帮到大家！

[Caffe fine-tuning]: http://www.cnblogs.com/louyihang-loves-baiyan/p/5038758.html
[686170-20151211133602980-1333820622.png]: /images/20220513/455309d9af3e4d37961ec921714e9072.png
[686170-20151211133620183-441244606.jpg]: /images/20220513/c2464e81dc484efc81214f63e9998acc.png
[686170-20151211133633590-1019495774.jpg]: /images/20220513/99e206215d6d4004b67f2ca45aefec5e.png
[686170-20151211133644121-111741126.jpg]: /images/20220513/bdf5e98e09a04d3892fb7798cfbca81a.png
[686170-20151211133655543-1124765048.jpg]: /images/20220513/d39f8463871741b990644abd90e578c2.png