pytorch版Maskrcnn benchmark训练自己的数据集（实例分割）

- 日理万妓 2023-06-27 12:47 55阅读 0赞

之前一直使用的都是tensorflow版maskrcnn,虽然知道pytorch版已经出来很久了，但一直也没想着试试，前几天组里大牛让我试着用pytorch版的maskrcnn来训练一下现在的数据集，毕竟pytorch版在速度上要比tensorflow版的快很多。

先去官网将代码下载下来      [https://github.com/facebookresearch/maskrcnn-benchmark][https_github.com_facebookresearch_maskrcnn-benchmark]

我的系统是ubuntu18.04，已提前安装好pytorch,没有安装的小伙伴可以去网上找教程看一下。

下载完代码后进行安装

cd maskrcnn-benchmark-master
    sudo python3 setup.py build develop

然后  
根据官网的教程进行测试，缺什么库就安装什么库

cd demo
    # by default, it runs on the GPU
    # for best results, use min-image-size 800
    python webcam.py --min-image-size 800
    # can also run it on the CPU
    python webcam.py --min-image-size 300 MODEL.DEVICE cpu
    # or change the model that you want to use
    python webcam.py --config-file ../configs/caffe2/e2e_mask_rcnn_R_101_FPN_1x_caffe2.yaml --min-image-size 300 MODEL.DEVICE cpu
    # in order to see the probability heatmaps, pass --show-mask-heatmaps
    python webcam.py --min-image-size 300 --show-mask-heatmaps MODEL.DEVICE cpu
    # for the keypoint demo
    python webcam.py --config-file ../configs/caffe2/e2e_keypoint_rcnn_R_50_FPN_1x_caffe2.yaml --min-image-size 300 MODEL.DEVICE cpu

如果缺少apex库，到githhub上进行下载解压。下载地址：  [https://github.com/NVIDIA/apex.git][https_github.com_NVIDIA_apex.git]

然后进行安装

sudo pip3 install --upgrade setuptools
    cd apex-master
    sudo python3 setup.py install

接下来就要处理数据集了，不知道大家都是用什么进行标注的哦，我用的是VIA标注的，需要对格式进行转换，转成COCO格式，当然了大神们也可以自己修改源码进行训练。

转换代码：[https://download.csdn.net/download/qq\_37754309/12710210][https_download.csdn.net_download_qq_37754309_12710210]

在./maskrcnn-benchmark-master/maskrcnn\_benchmark下新建dataset和myconfig两个文件夹，将数据集放入到dataset/coco文件夹下![20200110111504801.png][]其中train2018,val2018是需要进行训练的图片，annotations中是COCO格式的json文件![20200110111738209.png][]。在myconfig文件下将./maskrcnn-benchmark-master/configs里你想训练的配置文件（.yaml结尾）复制过去，把./maskrcnn-benchmark-master/maskrcnn\_benchmark/config打开，复制\_\_pycache\_\_和paths\_catalogs.py到myconfig

文件准备就绪，接下来就是根据自己的数据集对各配置进行修改了。

修改maskrcnn\_benchmark/utils下的checkpoint，需要注释（65， 68）两行（self.optimizer.load\_state..   self.scheduler.load\_...）

将myconfig下的paths\_catalogs文件中的数据集路径改为自己的，![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NzU0MzA5_size_16_color_FFFFFF_t_70][]

然后进行配置文件的修改（.yaml），主要修改NUM\_CLASSES，DATASETS中的train和test ，模型保存文件OUTPUT\_DIR以及PATHS\_CATALOG

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NzU0MzA5_size_16_color_FFFFFF_t_70 1][]

然后就可以开始训练了，在./maskrcnn-benchmark-master下打开终端，运行

python3 tools/train_net.py --config-file="修改后的配置文件（.yaml)"

在训练过程中如果出现loss为nan的情况,或者出现错误 - RuntimeError: copy\_if failed to synchronize: cudaErrorAssert: device-side assert triggered，请修改配置文件(.yaml)中的学习率(我训练fpn50和fpn101时将其改为了0.002)我的数据集只有一类物体，供大家参考。

我在训练完成时还碰到一个错误  
 TypeError: object of type <class 'numpy.float64'> cannot be safely interpreted as an integer

是numpy版本的问题，之前安装的是1.18.1，后来修改为1.16.1后即可正常运行。

sudo pip3 install -U numpy==1.16.1

训练完成后在你的OUTPUT\_DIR会生成一个model\_final.pth,将这个路径放入到之前的配置文件中(.yaml）放入到WEIGHT

![20200113133301960.png][]

将./maskrcnn-benchmark-master/demo文件夹下的predictor.py中的类别改为自己的，然后将webcam.py中的--config-file中的default改为修改完的配置文件路径(.yaml)

![20200113133842399.png][]

接下来就可以进行测试了，运行webcam.py即可，需要测试图片可根据自己的需要更改。

[https_github.com_facebookresearch_maskrcnn-benchmark]: https://github.com/facebookresearch/maskrcnn-benchmark
[https_github.com_NVIDIA_apex.git]: https://github.com/NVIDIA/apex.git
[https_download.csdn.net_download_qq_37754309_12710210]: https://download.csdn.net/download/qq_37754309/12710210
[20200110111504801.png]: https://img-blog.csdnimg.cn/20200110111504801.png
[20200110111738209.png]: https://img-blog.csdnimg.cn/20200110111738209.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NzU0MzA5_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200113131853364.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NzU0MzA5,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NzU0MzA5_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20200113132149739.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NzU0MzA5,size_16,color_FFFFFF,t_70
[20200113133301960.png]: https://img-blog.csdnimg.cn/20200113133301960.png
[20200113133842399.png]: https://img-blog.csdnimg.cn/20200113133842399.png