00 caffe-学习笔记

水深无声 2022-07-16 09:51 224阅读 0赞

# Caffe #

[博客原文][Link 1]  
本文是我刚刚开始学习caffe时参考[caffe的官网][caffe]的教程时所作的个人笔记，初步接触，理解不是很透彻，如果有误希望指出。windows10+VS2013—Matab2016+python2.7  
windows用户爱好者：  
BVLC和Microsoft提供了windows下caff的配置，非常方便。  
[BVLC版][BVLC],  
[Microsoft版][Microsoft]。本人是用的BVLC版的,具体CommonSettings.props配置自行看对应网页下面说明。

Caffe is a deep learning framework made with expression, speed, and modularity in mind. It is developed by the Berkeley Vision and Learning Center (BVLC) and by community contributors. Yangqing Jia created the project during his PhD at UC Berkeley. Caffe is released under the BSD 2-Clause license.

### 1 数据集：Caff下提供了四种数据集 ###

1.  第一种是cifar10：  
      
    Cifar-10是由Hinton的两个大弟子Alex Krizhevsky、Ilya Sutskever收集的一个用于普适物体识别的数据集。Cifar是加拿大政府牵头投资的一个先进科学项目研究所。Cifar-10由60000张32\*32的RGB彩色图片构成，共10个分类。50000张训练，10000张测试（交叉验证）。这个数据集最大的特点在于将识别迁移到了普适物体，而且应用于多分类（姊妹数据集Cifar-100达到100类，ILSVRC比赛则是1000类）。
2.  第二种是mnist  
      
    minst是手写字体库，CNN的LeNet的广泛应用于美国的支票手写字体识别。
3.  第三种是imagenet  
      
    （ilsvrc12）Large Scale Visual Recognition Challenge 2012 (ILSVRC2012)，ImageNet 是一个超级大的数据库，每年会有对应的图像识别的挑战赛。例如ilsvrc12是一个挑战赛对应的数据集，有1000类图像。
4.  第四种是 flickr\_style  
      
    paper:[Recognizing Image Style][],Datasets:http://vislab.berkeleyvision.org/datasets.html“>Datasets;运行 assemble\_data.py 即可下载到对应data下会产生一个image 和train.txt test.txt，格式与imagenet类似。
5.  **数据格式转换**  
    Caffe提供了很多模型，因为mnist和cifar10数据量不是很大，可以按照程序里面提供的链接直接获得，因为caffe最终输入的数据格式为lmdb，因此都需要进行数据格式转换。  
      
    Caffe 提供了convert\_cifar\_data.exe 对应cifar10数据的转换。  
      
    Caffe 提供了convert\_mnist\_data.exe 对应mnist 数据的转换。  
      
    Caffe 提供了convert\_imageset.exe 对应着标准的数据格式转换（数据目录 标签）。

### 2 Examples ###

Caffe工程下面有很多例子，下面拿几个依次简介:

#### 1 mnist ####

mnist 同理与cifar10 相似，只是数据集不同。caffe工程里面，对convert\_mnist\_data进行编译生成convert\_mnist\_data.exe，这个生成的exe对应.sh文件里面convert\_mnist\_data.bin。

1.  第一步：下载mnist数据集  
      
    [训练数据及对应的标签，测试文件及对应的标签][Link 2]
2.  第二步：将数据转化为lmdb格式，根据convert\_cifar\_data.cpp 可以知道有四个参数  
      
    第一个为对应的.exe path/ convert\_mnist\_data.exe  
      
    第二个为训练数据对应的文件名 path / train-images.idx3-ubyte  
      
    第三个为训练数据对应的标签的文件名 path/ train-labels.idx1-ubyte  
      
    第四个为转化后对应数据的文件夹 path/traindb  
      
    PS：第四个参数不要提前去创建这个traindb文件夹，即使重新执行程序时，应该删除它。
3.  第三步：计算数据的均值（训练文件和测试文件的），根据compute\_image\_mean.cpp 可以知道需要三个参数 。  
      
    第一个为对应的.exe path/ compute\_image\_mean.exe  
      
    第二个为.mdb文件对应的文件夹名（第一步的第四个参数） path/traindb  
      
    第三个为计算后生成的均值文件名 path/ train\_mean.binaryproto
4.  第四步：编辑用于训练和测试的模型描述文件，lenet\_train\_test.prototxt 文件里面为对应的网络模型结构，我们可以根据相应的要求进行修改网络结构，并修正相应的数据源目录。
5.  指定对应的训练超参数，通过训练超参数文件lenet.prototxt指定对应的网络模型描述文件以及对相应的参数进行设定。
6.  对训练超参数文件进行相应的数据训练，caffe.exe –help 查看对应的参数类型，当对数据进行训练时：  
      
    第一个为对应的.exe path/ caffe.exe  
      
    第二个为参数指令类型 train  
      
    第三个为指定的训练超参数文 solver=path/ lenet\_train\_test.prototxt  
      
    Eg：caffe.exe train –solver=F:/Caffdata/caff/testcaffenet/ lenet\_train\_test.prototxt

#### 2 cifar10 ####

此文件夹里面.sh文件为linux下面对应的指令文件，但是我们是在windows下面，所以运行window下面caffe工程，对convert\_cifar\_data进行编译生成的convert\_cifar\_data.exe,这个生成的exe对应.sh文件里面convert\_cifar\_data.bin。

1.  第一步：下载cifar10数据集  
      
    [CIFAR-10 数据集][CIFAR-10]，选择CIFAR-10 binary version。
2.  第二步：将数据转化为lmdb格式  
      
    根据convert\_cifar\_data.cpp 可以知道有四个参数：（可选参数暂时不考虑）  
      
    第一个为对应的.exe path/convert\_cifar\_data.exe  
      
    第二个为.bin文件对应的文件夹 path / cifar-10-batches-bin  
      
    第三个为转化后对应数据的文件夹 path/ cifar-10-binary  
      
    第四个为转化后对应的数据类型 lmdb  
      
    (PS 最后转化后对应数据的文件夹为cifar10\_train\_lmdb,后面\_lmdb是代码中补上去的)  
    (PS 为啥这个数据转换时没有对应的标签文件，这是因为标签存储在cifar-10-batches-bin文件的第一个字节里面，所以相当于标签数据与原训练数据存储在一个文件里面)
3.  第三步：计算数据的均值（训练文件和测试文件的）  
      
    根据compute\_image\_mean.cpp 可以知道需要三个参数。  
      
    第一个为对应的.exe path/ compute\_image\_mean.exe  
      
    第二个为.mdb文件对应的文件夹 path / cifar10\_train\_lmdb  
      
    第三个为计算后生成的均值文件名 path/ train\_mean.binaryproto
4.  第四步：编辑用于训练和测试的模型描述文件  
      
    cifar10\_quick\_train\_test.prototxt 文件里面为对应的网络模型结构，我们可以根据相应的要求进行修改网络结构，并修正相应的数据源目录。
5.  指定对应的训练超参数  
      
    通过训练超参数文件solver.prototxt指定对应的网络模型描述文件以及对相应的参数进行设定。
6.  对训练超参数文件进行相应的数据训练  
      
    caffe.exe –help 查看对应的参数类型  
      
    当对数据进行训练时：  
      
    第一个为对应的.exe path/ caffe.exe  
      
    第二个为参数指令类型 train  
      
    第三个为指定的训练超参数文 solver=path/solver.prototxt  
      
    Eg：caffe.exe train –solver=F:/Caffdata/caff/testcaffenet/lenet\_solver.prototxt

#### 3 imagenet ####

这个例子是当你想要训练自己的图库时可模仿一下，里面.sh文件为linux下面对应的指令文件，但是我们是在windows下面，所以运行window下面caffe工程，对convert\_cifar\_data进行编译生成convert\_cifar\_data.exe，这个生成的exe对应.sh文件里面convert\_cifar\_data.bin。

1.  第一步：下载ilsvrc12数据集  
    [ImageNet][] 太大了，所以我自己弄一个简单图库示例。用一个文件夹包含10类图像，10类图像放在10个不同的文件夹里面。
2.  第二步：将数据转化为lmdb格式  
      
    根据convert\_imageset.cpp 可以知道有四个参数：（可选参数暂时不考虑）  
    convert\_imageset.exe –resize\_height=256 –resize\_width=256 \\train.txt \\traindb,参考（create\_imagenet.sh）， 因为需要保证图像的大小一样，因为这个例子的网络描述层采用的的数据格式为data，而不是image的时候，需要通过指令提前完成图像的大小统一。  
      
    第一个为对应的.exe path/convert\_imageset.exe  
      
    第二个为样本文件对应的根目录文件夹 path/rootdir  
      
    第三个为样本对应的标签文件（相对路径，标签） path/ label.txt  
      
    DF11\\DF110024\\00052\_000.jpg\_0.bmp 1  
      
    DF8B\\DF8B0027\\00064\_000.jpg\_0.bmp 2  
      
    第四个为.mdb文件对应的文件夹 path / plate\_train
3.  第三步：计算数据的均值（训练文件和测试文件的）  
      
    根据compute\_image\_mean.cpp 可以知道需要三个参数  
      
    第一个为对应的.exe path/ compute\_image\_mean.exe  
      
    第二个为.mdb文件对应的文件夹 path / plate\_train  
      
    第三个为计算后生成的均值文件名 path/ train\_mean.binaryproto
4.  编辑用于训练和测试的模型描述文件  
      
    图像分类的模型可以在models里面选一个，例如train\_val.prototxt，我们可以根据相应的要求进行修改网络结构，并修正相应的数据源目录。（可以选择多个模型对比分析）。
5.  指定对应的训练超参数  
      
    通过训练超参数文件solver.prototxt指定对应的网络模型描述文件以及对相应的参数进行设定。
6.  第六步：对训练超参数文件进行相应的数据训练  
    caffe.exe –help 查看对应的参数类型  
      
    当对数据进行训练时：  
      
    第一个为对应的.exe path/ caffe.exe  
      
    第二个为参数指令类型 train  
      
    第三个为指定的训练超参数文 solver=path/solver.prototxt  
      
    Eg：caffe.exe train –solver=F:/Caffdata/caff/testcaffenet/lenet\_solver.prototxt

#### 4 classification ####

直接使用已有的模型进行测试，Caffe Model Zoo 提供了一个分享模型的平台，世界各地的研究员都可以把自己的训练成果共享到社区中供更多人使用，节省人力和物力。  
1. 第一步运行 classification.cpp 对应的工程生成classification.exe  
2. 相应图库的均值文件，图像类别标签  
  
例如我们获取caffe\_ilsvrc12 对应需要的文件[data][]。  
3. 模型描述文件和对应训练好的模型（Caffe Model Zoo上瞅瞅）  
因为模型的好坏跟调参有关，因此对于同一个图库，世界各地大神训练出了好多模型。这里我们选择bvlc\_reference\_caffenet 网络模型。注意模型的版本以及所对应的训练数据。[好多model][model]。  
4. 第四步对待测图像进行预测  
  
查看CPP文件，这里可以传入6个参数  
  
第一个为对应的.exe path/ classification.exe  
  
第二个为模型描述文件 path/ deploy.prototxt  
  
第三个为对应的模型文件 path/ bvlc\_reference\_caffenet.caffemodel  
  
第四个为对应训练数据的均值文件 path/ imagenet\_mean.binaryproto  
  
第五个为图像类别标签信息 path/ synset\_words.txt  
  
第六个为待测图像 path/image.jpg  
5. 查看结果：top-5 top-1

#### 5 finetune\_flickr\_style ####

微调是基于已经学习好的模型的，通过修改结构，从已学习好的模型权重中继续训练。下面就在另一个数据集Flickr Style上面微调CaffeNet模型，来预测图像风格，而不再是目标类别。

Flickr Style图像数据集在视觉上和训练了bvlc\_reference\_caffenet的ImageNet数据集很像，由于这个模型在目标分类上用得很好，我们就想把它也用在风格分类器中。因为只有80,000个图像可用于训练，所以从用了1,000,000个图像的ImageNet学到的参数开始训练，再根据需要进行微调。如果给出caffe train命令的weights参数，预训练的权重就会载入模型中，通过名字来匹配层。

因为我们现在只预测20个类而不再是1,000个，所以需要修改模型中的最后一层，把prototxt最后一层的名字由fc8改为fc8\_flickr。bvlc\_reference\_caffenet中没有层名叫fc8\_flickr，因此该层将从随机权重开始训练。同理，可以多改几个其它层的名字，被修改的层都会从随机权重开始训练。

此外，减少solver prototxt中的总体学习率base\_lr（0.01 变为 0.001），但是增加新引进层的lr\_mult（由2变成10，它是总体学习率的倍乘因子）。主要原因是新数据让新加的层学习很快，模型中剩下的层改变很慢，在solver中设置stepsize为更低的值，希望学习率下降快一些。我们也可以通过设置lr\_mult为0来阻止除fc8\_flickr外的所有层微调。

BVLC 提供了一个关于Flickr Style模型，基于80K的该数据集训练的模型，识别率为39%. 大家可以对比分析。

1.  第一步：下载Flickr Style 数据集  
      
    运行：caffe-master\\examples\\finetune\_flickr\_style\\assemble\_data.py数据自动下载到caffe-master\\data\\flickr\_style 文件夹下出现一个image 文件夹和两个txt文档（trian.txt test.txt）。
2.  第二步: 获取ilsvrc12 数据集对应的均值文件  
      
    运行data/ilsvrc12/ get\_ilsvrc\_aux.sh 可以获取相应的均值文件。
3.  第三步：获取基于ilsvrc12 数据集训练的模型  
      
    运行./scripts/download\_model\_binary.py models/bvlc\_reference\_caffenet 可以获得。
4.  修改模型描述文件和超参数  
      
    我们需要基于bvlc\_reference\_caffene的模型描述文件上修改一下获得我们为新的数据集任务设计的网络。根据上面分析的，Flickr Style是一个20类的分类问题，而我们已经有一个1000类的模型，因此我们其实不必大费周张的重新训练一个20类的模型，其实两个模型只有最后一层不一样，即一个的输出为1000维，另一个为20维。那么我们完全可以将1000类模型除最后一层的其余层拿过来使用，然后再使用现有数据对原模型执行fine-tuning操作，这样可以大大提高训练速度。因此按照上面说的我们在bvlc\_reference\_caffene的模型描述文件上修改一下获得我们新的模型描述文件和超参数训练文件。
5.  第五步:根据自己的模型文件，数据文件位置，均值文件位置调整模型描述文件和超参数文件里面的一些参数。
6.  开始添加我们的数据重新训练部分权值  
      
    完成上面五个步骤我们就具有了新数据集和相应的标签，已有模型和已有模型对应的均值文件。 现在我们可以训练了，微调的关键是对于指令中权值参数的声明，因为它将告诉Caffe我们想从已经训练好的模型中直接获取相应的权值。  
    啥也不说，上指令：  
    F:\\02visualstudio2013Projects\\caffe-master\\caffe-master\\Build\\x64\\Release\\caffe.exe train –solver=F:/02visualstudio2013Projects/caffe-master/caffe-master/models/finetune\_flickr\_style/solver.prototxt -weights F:\\02visualstudio2013Projects\\caffe-master\\caffe-master\\models\\bvlc\_reference\_caffenet\\bvlc\_reference\_caffenet.caffemodel -gpu 0

#### 6 feature\_extraction ####

这个例子是利用已经训练好的模型进行特征提取，相当于用模型对某个图像进行预测，在前向反馈时，突然截取某层的数据保存下来，就成为特征了。

1.  第一步：选择数据去进行特征提取  
      
    创建一个临时文件夹和一个temp.txt，temp.txt 其实只需要把文件夹里面对应的图像path按照一行行的存储起来，形成一个文件列表，但是因为我们的网络存在数据层那里需要每一个文件对应的标签信息，因此我们需要在文件列表中每行文件path 后空一个添加一个标签，例如都添加一个0。caffe-master\\data\\flickr\_style 里面的数据就很符合这个要求。
2.  第二步：定义特征提取网络结构  
      
    还是选择bvlc\_reference\_caffene对应的网络结构吧，另外在训练时，数据减去平均值有利于最后的模型识别率，因此我们还得再使用一下imagenet\_mean.binaryproto  
    另外因为我们新的图片数据的大小与bvlc\_reference\_caffene网络当时训练时使用的图像的大小不一样，因此需要注意将图像的大小调整与被使用的模型需要的图像大小一样。
3.  第三步：提取特征  
      
    当测试图像和对应的网络都弄好了，我们就可以开始进行特征提取，其实就是进行网络前向反馈，截取某层的数据，就是传说中的特征，每一层截取的特征不一样，那么现在主要就是看如何截取某一层的数据并且保存下来，美之名曰特征。例如bvlc\_reference\_caffene网络的fc7 层为图像的最高级别的特征，我们要提取他。  
      
    第一个为对应的.exe path/ extract\_features.exe  
      
    第二个为对应的模型文件 path/bvlc\_reference\_caffenet.caffemodel  
      
    第三个为模型描述文件 path/imagenet\_val.prototxt  
      
    第四个为网络某层的名字 fc7  
      
    第五个为特征将放置的文件夹 path/ feature  
      
    第六个为数据迭代的批次数 10  
      
    第七个为特征存放时的格式 leveldb  
      
    PS：第五个参数进行二次运行前需要删除否则里面makedir出错，最后一个格式问题。

#### 7 matlab ####

如何利用MAtlab作为接口完成Caffe可以参考caffe-master\\matlab\\demo，配置CommonSettings.props时  
`<MatlabSupport>true</MatlabSupport>`

`<PropertyGroup Condition="'$(MatlabSupport)'=='true'">`  
`<MatlabDir>E:\Program Files\MATLAB\R2016a</MatlabDir>`  
`<LibraryPath>$(MatlabDir)\extern\lib\win64\microsoft;$(LibraryPath)`  
`</LibraryPath>`  
`<IncludePath>$(MatlabDir)\extern\include;$(IncludePath)</IncludePath>`  
`</PropertyGroup>`

另外matcaffe 添加库  
E:\\Program Files\\MATLAB\\R2016a\\toolbox\\distcomp\\gpu\\extern\\include

运行完成后生成caffe-master\\Build\\x64\\Release\\matcaffe+caffe\\private\\caffe\_.mexw64

### 8Python ###

[微软官方caffe之 Python接口配置及图片生成实例][caffe_ Python]

[Caffe for Python 官方教程(翻译)][Caffe for Python]

以上均为自己试验完成，存在描述错误的，望指出，谢谢。  
[博客原文][Link 1]

[Link 1]: http://blog.csdn.net/ZHANG2012LIANG/article/details/52812889
[caffe]: http://caffe.berkeleyvision.org/
[BVLC]: https://github.com/BVLC/caffe/tree/windows
[Microsoft]: https://github.com/Microsoft/caffe
[Recognizing Image Style]: http://sergeykarayev.com/recognizing-image-style
[Link 2]: http://yann.lecun.com/exdb/mnist/
[CIFAR-10]: http://www.cs.toronto.edu/~kriz/cifar.html
[ImageNet]: http://www.image-net.org/download-images
[data]: http://dl.caffe.berkeleyvision.org/caffe_ilsvrc12.tar.gz
[model]: http://dl.caffe.berkeleyvision.org/
[caffe_ Python]: http://blog.csdn.net/zb1165048017/article/details/52980102
[Caffe for Python]: http://blog.csdn.net/jnulzl/article/details/52077915