Yolov3参数理解

分手后的思念是犯贱 2022-05-17 05:10 252阅读 0赞

1.yolov3-voc.cfg(参考很多文章写的汇总，有些写了但还是不是很懂，如果有误请及时指正)

[net]
    # Testing                                  测试模式
    # batch=1
    # subdivisions=1
    # Training                                 训练模式
     batch=64                                  一批训练样本的样本数量，每batch个样本更新一次参数
     subdivisions=16                           batch/subdivisions作为一次性送入训练器的样本数量,如果内存不够大，将batch分割为subdivisions个子batch
    
    										   上面这两个参数如果电脑内存小，则把batch改小一点，batch越大，训练效果越好
    										   subdivisions越大，可以减轻显卡压力
    										   
    										   
    width=416                                  input图像的宽
    height=416                                 input图像的高
    channels=3                                 input图像的通道数
    
                                               以上三个参数为输入图像的参数信息 width和height影响网络对输入图像的分辨率，
    					                       从而影响precision，只可以设置成32的倍数
    										   
    										   
    momentum=0.9                               [?]DeepLearning1中最优化方法中的动量参数，这个值影响着梯度下降到最优值得速度https://nanfei.ink/2018/01/23/YOLOv2%E8%B0%83%E5%8F%82%E6%80%BB%E7%BB%93/#more
    
    
    decay=0.0005                               [?]权重衰减正则项，防止过拟合.每一次学习的过程中，将学习后的参数按照固定比例进行降低，为了防止过拟合，decay参数越大对过拟合的抑制能力越强。
    
    
    angle=0                                    通过旋转角度来生成更多训练样本
    saturation = 1.5                           通过调整饱和度来生成更多训练样本
    exposure = 1.5                             通过调整曝光量来生成更多训练样本
    hue=.1                                     通过调整色调来生成更多训练样本
    
    
    
    learning_rate=0.001                        学习率决定着权值更新的速度，设置得太大会使结果超过最优值，太小会使下降速度过慢。
    										   如果仅靠人为干预调整参数，需要不断修改学习率。刚开始训练时可以将学习率设置的高一点，
    										   而一定轮数之后，将其减小
    										   在训练过程中，一般根据训练轮数设置动态变化的学习率。
    										   刚开始训练时：学习率以 0.01 ~ 0.001 为宜。
    										   一定轮数过后：逐渐减缓。
    										   接近训练结束：学习速率的衰减应该在100倍以上。
    										   学习率的调整参考https://blog.csdn.net/qq_33485434/article/details/80452941
    										   
    										   
    burn_in=1000                               在迭代次数小于burn_in时，其学习率的更新有一种方式，大于burn_in时，才采用policy的更新方式
    max_batches = 20200                        训练达到max_batches后停止学习
    policy=steps                               这个是学习率调整的策略，有policy：constant, steps, exp, poly, step, sig, RANDOM，constant等方式
    					                       参考https://nanfei.ink/2018/01/23/YOLOv2%E8%B0%83%E5%8F%82%E6%80%BB%E7%BB%93/#more
    										   
    										   
    steps=40000,45000                          下面这两个参数steps和scale是设置学习率的变化，比如迭代到40000次时，学习率衰减十倍。
    scales=.1,.1                               45000次迭代时，学习率又会在前一个学习率的基础上衰减十倍
    
    
    
    [convolutional]
    batch_normalize=1                          是否做BN
    filters=32                                 输出特征图的数量
    size=3                                     卷积核的尺寸
    stride=1                                   做卷积运算的步长
    pad=1                                      如果pad为0,padding由 padding参数指定;如果pad为1，padding大小为size/2，padding应该是对输入图像左边缘拓展的像素数量
    activation=leaky                           激活函数的类型
    
    # Downsample
    
    [convolutional]
    batch_normalize=1
    filters=64
    size=3
    stride=2
    pad=1
    activation=leaky
    
    [convolutional]
    batch_normalize=1
    filters=32
    size=1
    stride=1
    pad=1
    activation=leaky
    
    [convolutional]
    batch_normalize=1
    filters=64
    size=3
    stride=1
    pad=1
    activation=leaky
    
    [shortcut]
    from=-3
    activation=linear
    
    # Downsample
    
       ......
    
    # Downsample
    
    
    ######################
    
    [convolutional]
    batch_normalize=1
    filters=512
    size=1
    stride=1
    pad=1
    activation=leaky
    
    [convolutional]
    batch_normalize=1
    size=3
    stride=1
    pad=1
    filters=1024
    activation=leaky
    
    [convolutional]
    batch_normalize=1
    filters=512
    size=1
    stride=1
    pad=1
    activation=leaky
    
    [convolutional]
    batch_normalize=1
    size=3
    stride=1
    pad=1
    filters=1024
    activation=leaky
    
    [convolutional]
    batch_normalize=1
    filters=512
    size=1
    stride=1
    pad=1
    activation=leaky
    
    [convolutional]
    batch_normalize=1
    size=3
    stride=1
    pad=1
    filters=1024
    activation=leaky
    
    [convolutional]
    size=1
    stride=1
    pad=1
    filters=45                          每一个[region/yolo]层前的最后一个卷积层中的 filters=(classes+1+coords)*anchors_num，
                                        其中anchors_num 是该层mask的一个值.如果没有mask则 anchors_num=num是这层的ancho
    					                5的意义是5个坐标，论文中的tx,ty,tw,th,to
    activation=linear
    
    [yolo]                              在yoloV2中yolo层叫region层
    mask = 6,7,8                        这一层预测第6、7、8个 anchor boxes ，每个yolo层实际上只预测3个由mask定义的anchors
    
    
    anchors = 10,13,  16,30,  33,23,  30,61,  62,45,  59,119,  116,90,  156,198,  373,326
                                        [?]anchors是可以事先通过cmd指令计算出来的，是和图片数量，width,height以及cluster(应该就是下面的num的值，
    					                即想要使用的anchors的数量)相关的预选框，可以手工挑选，也可以通过kmeans 从训练样本中学出
    									
    									
    classes=10                          网络需要识别的物体种类数
    num=9                               每个grid cell预测几个box,和anchors的数量一致。当想要使用更多anchors时需要调大num，且如果调大num后训练时Obj趋近0的话可以尝试调大object_scale
    jitter=.3                           [?]利用数据抖动产生更多数据，YOLOv2中使用的是crop，filp，以及net层的angle，flip是随机的，
    					                jitter就是crop的参数，tiny-yolo-voc.cfg中jitter=.3，就是在0~0.3中进行crop
    									
    									
    ignore_thresh = .5                  决定是否需要计算IOU误差的参数，大于thresh，IOU误差不会夹在cost function中 
    truth_thresh = 1
    random=0                            如果为1，每次迭代图片大小随机从320到608，步长为32，如果为0，每次训练大小与输入大小一致
    
    [route]
    layers = -4
    
    ......
    
    
    #可以添加没有标注框的图片和其空的txt文件，作为negative数据
    #可以在第一个[yolo]层之前的倒数第二个[convolutional]层末尾添加 stopbackward=1,以此提升训练速度
    #即使在用416*416训练完之后，也可以在cfg文件中设置较大的width和height，增加网络对图像的分辨率，从而更可能检测出图像中的小目标，而不需要重新训练
    #Out of memory的错误需要通过增大subdivisions来解决

2.训练时的参数

![70][]

本来想截一个批次的但是太大了没截全，批次大小的划分对应上面 .cfg 文件中设置的subdivisions参数。上面的的 .cfg 文件中 batch = 64 ，subdivision = 16，所以在训练输出中，训练迭代包含了16组，每组又包含了4张图片，跟设定的batch和subdivision的值一致。  
（注： 也就是说每轮迭代会从所有训练集里随机抽取 batch = 64 个样本参与训练，所有这些 batch 个样本又被均分为 subdivision = 16 次送入网络参与训练，以减轻内存占用的压力）

此处有16\*3条信息，每组包含三条信息，分别是：   
Region 82 Avg IOU:   
Region 94 Avg IOU:   
Region 106 Avg IOU:   
三个尺度上预测不同大小的框 82卷积层 为最大的预测尺度，使用较大的mask，但是可以预测出较小的物体 94卷积层 为中间的预测尺度，使用中等的mask， 106卷积层为最小的预测尺度，使用较小的mask，可以预测出较大的物体

**批输出**

![70 1][]  
针对上图中最后一行中的信息。如下的输出是由 detector.c 生成的  
20001： 指示当前训练的迭代次数  
0.048537： 是总体的Loss  
0.048537 avg： 是平均Loss（这个数值应该越低越好，一般来说，一旦这个数值低于0.060730 avg就可以终止训练了）  
0.002000 rate： 代表当前的学习率，在.cfg文件中定义了它的初始值和调整策略。  
3.904890 seconds： 表示当前批次训练花费的总时间。  
2560128 images：表示到目前为止，参与训练的图片的总量，是批次\*batch的大小（因为我之前训练到20200次后中断过又从20000次开始的所以2560128=20001\*64\*2，我是这样理解的不知道对不对）

**快输出**

Region Avg IOU: 0.900319： 表示在当前subdivision内的图片的平均IOU，代表预测的矩形框和真实目标的交集与并集之比，这里是90.03%，很高了吧。  
Class: 0.999576： 标注物体分类的正确率，期望该值趋近于1。  
Obj: 0.991654： 越接近1越好。  
No Obj: 0.000033： 期望该值越来越小，但不为零。

.5R:1.000000: 以IOU=0.5为阈值时候的recall; recall = 检出的正样本/实际的正样本

.75R:1.000000：以IOU=0.75为阈值时候的recall  
count: 1：count后的值表示所有的当前subdivision图片（本例中一共4张）中包含正样本的图片的数量。在输出log中的其他行中，可以看到其他subdivision也有0、2、3、4，说明在subdivision中含有不含检测对象的图片。

参考了很多文章，感谢，有误请指正

[70]: /images/20220517/5fdd6d0280684caebdc8c44949c122dd.png
[70 1]: /images/20220517/091c6b9cf2184bccb99fe58d4f7a91d0.png