计算机视觉实践（街景字符编码识别）——Task04：模型训练与验证（4天）

旧城等待， 2023-02-14 02:10 6阅读 0赞

原教程：[计算机视觉实践（街景字符编码识别） datawhalechina/team-learning · GitHub][datawhalechina_team-learning _ GitHub]

### Task04：模型训练与验证 ###

*  一、构造验证集
 *   *  1.过拟合与欠拟合
     *  2.本地验证集的划分
 *  二、模型训练与验证
 *   *  1.构造训练集和验证集
     *  2.模型保存与加载
     *  3.模型调参

在上一章节我们构建了一个简单的CNN进行训练，并可视化了训练过程中的误差损失和第一个字符预测准确率，但这些还远远不够。一个成熟合格的深度学习训练流程至少具备以下功能：

*  在训练集上进行训练，并在验证集上进行验证；
 *  模型可以保存最优的权重，并读取权重；
 *  记录下训练集和验证集的精度，便于调参。

# 一、构造验证集 #

## 1.过拟合与欠拟合 ##

在机器学习模型（特别是深度学习模型）的训练过程中，模型是非常**容易过拟合**的。深度学习模型在不断的训练过程中**训练误差会逐渐降低**，但**测试误差的走势则不一定**。

在模型的训练过程中，模型只能利用训练数据来进行训练，模型并不能接触到测试集上的样本。因此模型如果将训练集学的过好，模型就会记住训练样本的细节，导致模型在测试集的泛化效果较差，这种现象称为**过拟合（Overfitting）**。与过拟合相对应的是**欠拟合（Underfitting）**，即模型在训练集上的拟合效果较差。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70]  
随着模型复杂度和模型训练轮数的增加，CNN模型在训练集上的误差会降低，但在测试集上的误差会逐渐降低，然后逐渐升高，而我们为了追求的是模型在测试集上的精度越高越好。

导致模型过拟合的情况有很多种原因，其中最为常见的情况是**模型复杂度（Model Complexity ）太高**，导致模型学习到了训练数据的方方面面，学习到了一些细枝末节的规律。

解决上述问题最好的解决方法：**构建一个与测试集尽可能分布一致的样本集**（可称为验证集），在训练过程中不断验证模型在验证集上的精度，并以此控制模型的训练。

在给定赛题后，赛题方会给定训练集和测试集两部分数据。参赛者需要在训练集上面构建模型，并在测试集上面验证模型的泛化能力。因此参赛者可以通过提交模型对测试集的预测结果，来验证自己模型的泛化能力。同时参赛方也会限制一些提交的次数限制，以此避免参赛选手“刷分”。

在一般情况下，参赛选手也可以自己在本地划分出一个验证集出来，进行本地验证。训练集、验证集和测试集分别有不同的作用：

*  训练集（Train Set）：模型用于训练和调整模型参数；
 *  验证集（Validation Set）：用来验证模型精度和调整模型超参数；
 *  测试集（Test Set）：验证模型的泛化能力。  
    因为训练集和验证集是分开的，所以模型在验证集上面的精度在一定程度上可以反映模型的泛化能力。在划分验证集的时候，需要注意验证集的分布应该与测试集尽量保持一致，不然模型在验证集上的精度就失去了指导意义。

## 2.本地验证集的划分 ##

既然验证集这么重要，那么如何划分本地验证集呢。在一些比赛中，赛题方会给定验证集；如果赛题方没有给定验证集，那么参赛选手就需要从训练集中拆分一部分得到验证集。验证集的划分有如下几种方式：

*  **留出法（Hold-Out）**  
    直接将训练集划分成两部分，新的训练集和验证集。这种划分方式的优点是最为直接简单；缺点是只得到了一份验证集，有可能导致模型在验证集上过拟合。留出法应用场景是数据量比较大的情况。
 *  **交叉验证法（Cross Validation，CV）**  
    将训练集划分成K份，将其中的K-1份作为训练集，剩余的1份作为验证集，循环K训练。这种划分方式是所有的训练集都是验证集，最终模型验证精度是K份平均得到。这种方式的优点是验证集精度比较可靠，训练K次可以得到K个有多样性差异的模型；CV验证的缺点是需要训练K次，不适合数据量很大的情况。
 *  **自助采样法（BootStrap）**  
    通过有放回的采样方式得到新的训练集和验证集，每次的训练集和验证集都是有区别的。这种划分方式一般适用于数据量较小的情况。

当然这些划分方法是从数据划分方式的角度来讲的，在现有的数据比赛中一般采用的划分方法是**留出法和交叉验证法**。如果数据量比较大，留出法还是比较合适的。

# 二、模型训练与验证 #

在本节我们目标使用Pytorch来完成CNN的训练和验证过程，CNN网络结构与之前的章节中保持一致。我们需要完成的逻辑结构如下：

## 1.构造训练集和验证集 ##

每轮进行训练和验证，并根据最优验证集精度保存模型。

train_loader = torch.utils.data.DataLoader(
        train_dataset,
        batch_size=10, 
        shuffle=True, 
        num_workers=10, 
    )
        
    val_loader = torch.utils.data.DataLoader(
        val_dataset,
        batch_size=10, 
        shuffle=False, 
        num_workers=10, 
    )
    
    model = SVHN_Model1()
    criterion = nn.CrossEntropyLoss (size_average=False)
    optimizer = torch.optim.Adam(model.parameters(), 0.001)
    best_loss = 1000.0
    for epoch in range(20):
        print('Epoch: ', epoch)
    
        train(train_loader, model, criterion, optimizer, epoch)
        val_loss = validate(val_loader, model, criterion)
        
        # 记录下验证集精度
        if val_loss < best_loss:
            best_loss = val_loss
            torch.save(model.state_dict(), './model.pt')
    其中每个Epoch的训练代码如下：
    
    def train(train_loader, model, criterion, optimizer, epoch):
        # 切换模型为训练模式
        model.train()
    
        for i, (input, target) in enumerate(train_loader):
            c0, c1, c2, c3, c4, c5 = model(data[0])
            loss = criterion(c0, data[1][:, 0]) + \
                    criterion(c1, data[1][:, 1]) + \
                    criterion(c2, data[1][:, 2]) + \
                    criterion(c3, data[1][:, 3]) + \
                    criterion(c4, data[1][:, 4]) + \
                    criterion(c5, data[1][:, 5])
            loss /= 6
            optimizer.zero_grad()
            loss.backward()
            optimizer.step()
    其中每个Epoch的验证代码如下：
    
    def validate(val_loader, model, criterion):
        # 切换模型为预测模型
        model.eval()
        val_loss = []
    
        # 不记录模型梯度信息
        with torch.no_grad():
            for i, (input, target) in enumerate(val_loader):
                c0, c1, c2, c3, c4, c5 = model(data[0])
                loss = criterion(c0, data[1][:, 0]) + \
                        criterion(c1, data[1][:, 1]) + \
                        criterion(c2, data[1][:, 2]) + \
                        criterion(c3, data[1][:, 3]) + \
                        criterion(c4, data[1][:, 4]) + \
                        criterion(c5, data[1][:, 5])
                loss /= 6
                val_loss.append(loss.item())
        return np.mean(val_loss)

## 2.模型保存与加载 ##

在Pytorch中模型的保存和加载非常简单，比较常见的做法是保存和加载模型参数：

torch.save(model_object.state_dict(), 'model.pt')
    model.load_state_dict(torch.load(' model.pt'))

## 3.模型调参 ##

深度学习原理少但实践性非常强，基本上很多的模型的验证只能通过训练来完成。同时深度学习有众多的网络结构和超参数，因此需要**反复尝试**。训练深度学习模型需要GPU的硬件支持，也需要较多的训练时间，如何有效的训练深度学习模型逐渐成为了一门学问。

深度学习有众多的训练技巧，推荐的阅读链接有：  
[http://lamda.nju.edu.cn/weixs/project/CNNTricks/CNNTricks.html][http_lamda.nju.edu.cn_weixs_project_CNNTricks_CNNTricks.html]  
[http://karpathy.github.io/2019/04/25/recipe/][http_karpathy.github.io_2019_04_25_recipe]

[datawhalechina_team-learning _ GitHub]: https://github.com/datawhalechina/team-learning/tree/master/03%20%E8%AE%A1%E7%AE%97%E6%9C%BA%E8%A7%86%E8%A7%89/%E8%AE%A1%E7%AE%97%E6%9C%BA%E8%A7%86%E8%A7%89%E5%AE%9E%E8%B7%B5%EF%BC%88%E8%A1%97%E6%99%AF%E5%AD%97%E7%AC%A6%E7%BC%96%E7%A0%81%E8%AF%86%E5%88%AB%EF%BC%89
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200530224714753.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg==,size_16,color_FFFFFF,t_70
[http_lamda.nju.edu.cn_weixs_project_CNNTricks_CNNTricks.html]: http://lamda.nju.edu.cn/weixs/project/CNNTricks/CNNTricks.html
[http_karpathy.github.io_2019_04_25_recipe]: http://karpathy.github.io/2019/04/25/recipe/