第四周作业：卷积神经网络（Part2）

蔚落 2022-09-12 12:57 159阅读 0赞

Part1: 李沐课程 卷积神经网络 部分

[《动手学深度学习》之现代卷积神经网络][Link 1]

Part2: AI研习社 “猫狗大战” 比赛

本周在上周学习的基础，继续对猫狗大战进行代码的学习。

1.  **首先**，将VGG网络替换成李沐课程里讲过的ResNet，进行训练，最终提交结果到AI研习社。

class conv_net(nn.Module):
        def __init__(self):
            super(conv_net,self).__init__()
            self.net = nn.Sequential(b1, b2, b3, b4, b5,
                        nn.AdaptiveAvgPool2d((1,1)),
                        nn.Flatten(), nn.Linear(512, 2))
    
        def forward(self,x):
            x = F.LogSoftmax(self.net(x), dim=1)
            return x

**注**：网上资料说，LogSoftmax能够解决函数overflow和underflow，加快运算速度，提高数据稳定性。其中最重要的一点，是适用于损失函数是 NLLLoss() ，原因可以查看[博客][Link 2]。如果使用CrossEntropyLoss()损失函数，则使用SoftMax即可。

![在这里插入图片描述][b84d8ccac7c046e69db04ce5534483cd.png]

最终结果：  
![在这里插入图片描述][1b710d1518c64c96a032b160f497cce7.png]

1.  **其次**，使用ResNet-50跟ResNet-152进行迁移学习。

本次代码，图片处理成  224 × 224 × 3 224\\times 224 \\times 3 224×224×3 的大小，同时进行归一化处理，每个batch\_size设置成了64，学习率0.001。

在使用ResNet进行迁移学习时，只需要PyTorch加载预训练模型

resnet50 = models.resnet50(pretrained=True)

大多数参数已经训练好了，需要冻结前面层的参数，因此设置 。

requires_grad = False

最后根据自己的任务调整ResNet最后一层即可，由于猫狗大战属于二分类的任务，所以只需要将ResNet的最后一层替换为。

nn.Linear(256, 2)

ResNet50在测试集上，1个epoch准确率能到95.8%，10个epoch能到97.75%。  
![在这里插入图片描述][d179986d1ddf44b0aef20274ac4b233f.png]  
![在这里插入图片描述][3797e5e67f0949fe9e3212dedebcf233.png]

提交AI研习社的结果如下：![在这里插入图片描述][watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAUXh3MTAxMg_size_20_color_FFFFFF_t_70_g_se_x_16]

[Link 1]: https://blog.csdn.net/qs17809259715/article/details/120423455
[Link 2]: https://blog.csdn.net/qq_22210253/article/details/85229988/
[b84d8ccac7c046e69db04ce5534483cd.png]: /images/20220828/91b2e20a20a94c21a201f06414e1711c.png
[1b710d1518c64c96a032b160f497cce7.png]: /images/20220828/82c0877454c14985987842a1378380c3.png
[d179986d1ddf44b0aef20274ac4b233f.png]: /images/20220828/9a275e9b3c5547e4af1d04a1ec6467a1.png
[3797e5e67f0949fe9e3212dedebcf233.png]: /images/20220828/c3ecb9395d9a4ca3b69810c4d9d4f2e8.png
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAUXh3MTAxMg_size_20_color_FFFFFF_t_70_g_se_x_16]: /images/20220828/473a01f40c7f473599f118069c40d475.png