目标检测调优技巧：《Bag of Freebies for Training Object Detection Neural Networks》论文笔记

淩亂°似流年 2022-03-09 10:39 210阅读 0赞

# 1. 概述 #

这篇文章主要将介绍了一些在目标检测算法中的一些优化技巧，在优化过程中并不会修改网络，或者带来额外的计算量开销。文章的可以概括如下：  
1）对于目标检测提出一种基于视觉相关的图像混合方法；  
2）探究了详细的网络训练方法，包括损失函数、学习率、权重衰减以及多设备BN参数同步；  
3）在单阶段与两阶段检测算法中检测提出技巧进行了对比。  
使用文章中的方法进行优化，得到的优化见下图，至少提升了1个点。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L21fYnVkZHk_size_16_color_FFFFFF_t_70]

# 2. 技巧 #

## 2.1 图像mix-up ##

原有的mix-up分布是 a = 0.2 , b = 0.2 a=0.2,b=0.2 a=0.2,b=0.2的 β \\beta β分布，这样相加相当于是增加噪声，但是在目标检测中是不适宜的，其混合的结果见下图  
![在这里插入图片描述][20190312230233654.png]  
这里从目标检测的自然相关性角度考量 a > 1 , b > 1 a\\gt 1,b\\gt 1 a>1,b>1，且实验中这两个参数的取值为1.5是好于取1的时候的。使用这里提出的混合方法得到的混合结果见下图：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L21fYnVkZHk_size_16_color_FFFFFF_t_70 1]  
这是使用的分布曲线图，文中使用的是橙色的曲线。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L21fYnVkZHk_size_16_color_FFFFFF_t_70 2]  
在YOLO-v3上使用mix-up得到的性能表现详细见下表：  
![在这里插入图片描述][20190312230545735.png]

## 2.2 Classification Head Label Smoothing ##

在一般情况下Softmax的损失函数计算形式如下：  
![在这里插入图片描述][20190312230606532.png]  
较为理想的情况是分类的正确结果趋近于1，而错误的分类结果趋近于0，但是Softmax函数是做不到这样的，所以论文中对其进行了平滑操作：  
![在这里插入图片描述][20190312230636341.png]  
其中， K K K是分类的数目。

## 2.3 修改学习率曲线 ##

文中说使用余弦学习率变化曲线会取得比step较好的效果，下面是在YOLO-v3上进行实验得到的结果：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L21fYnVkZHk_size_16_color_FFFFFF_t_70 3]

## 2.4 多GPU训练中BN参数同步 ##

论文作者指出由于数据被划分到不同的GPU设备上，这些设备上的统计分布可能是不一样的，这样就会带来一些差异，因而在检测任务同步BN的参数。

## 2.5 输入图像随机尺度变化 ##

在YOLO-v3中图像的输入尺度范围是$ 320, 352, 384, 416, 448, 480, 512, 544, 576, 608$，相当于是多尺度的训练，对增加对小目标的检测效果有一定作用。

# 3. 实验 #

在文章中对涉及到YOLO-v3与Faster R-CNN方法进行实验得到如下结果：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L21fYnVkZHk_size_16_color_FFFFFF_t_70 4]  
使用文章的方法运用到COCO数据集得到每个类别性能的变化情况：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L21fYnVkZHk_size_16_color_FFFFFF_t_70 5]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L21fYnVkZHk_size_16_color_FFFFFF_t_70]: /images/20220309/f35b392cbb3a405aa1349ac9e3523c8f.png
[20190312230233654.png]: /images/20220309/94b3f43d43664a61a3519bbca191ea77.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L21fYnVkZHk_size_16_color_FFFFFF_t_70 1]: /images/20220309/bfd2db69aa6545c0a9de014c720ee2f1.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L21fYnVkZHk_size_16_color_FFFFFF_t_70 2]: /images/20220309/7359f010c76243bdbb7296cb5bba997b.png
[20190312230545735.png]: /images/20220309/0df9c282d767417cbd2bd0dd5200e8ff.png
[20190312230606532.png]: /images/20220309/4733825b8a6b41f78d8f35cc36d74922.png
[20190312230636341.png]: /images/20220309/7ba84277e86f4f7db1365a4d4574424e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L21fYnVkZHk_size_16_color_FFFFFF_t_70 3]: /images/20220309/ea7b1f17079645e385a8c61679433a42.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L21fYnVkZHk_size_16_color_FFFFFF_t_70 4]: /images/20220309/e52531017a57401d910259485e40fe50.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L21fYnVkZHk_size_16_color_FFFFFF_t_70 5]: /images/20220309/9692e56106ac4241b2b407ba57030f01.png