pytorch神经网络之卷积层与全连接层参数的设置

布满荆棘的人生 2022-05-10 03:33 315阅读 0赞

当使用pytorch写网络结构的时候，本人发现在卷积层与第一个全连接层的全连接层的input\_features不知道该写多少？一开始本人的做法是对着pytorch官网的公式推，但是总是算错。

后来发现，写完卷积层后可以根据模拟神经网络的前向传播得出这个。

全连接层的input\_features是多少。首先来看一下这个简单的网络。这个卷积的Sequential本人就不再啰嗦了，现在看`nn.Linear(？？？, 4096)`这个全连接层的第一个参数该为多少呢？请看下文详解。

class AlexNet(nn.Module):
        def __init__(self):
            super(AlexNet, self).__init__()
    
            self.conv = nn.Sequential(
                nn.Conv2d(3, 96, kernel_size=11, stride=4),
                nn.ReLU(inplace=True),
                nn.MaxPool2d(kernel_size=3, stride=2),
    
                nn.Conv2d(96, 256, kernel_size=5, padding=2),
                nn.ReLU(inplace=True),
                nn.MaxPool2d(kernel_size=3, stride=2),
    
                nn.Conv2d(256, 384, kernel_size=3, padding=1),
                nn.ReLU(inplace=True),
                nn.Conv2d(384, 384, kernel_size=3, padding=1),
                nn.ReLU(inplace=True),
                nn.Conv2d(384, 256, kernel_size=3, padding=1),
                nn.ReLU(inplace=True),
                nn.MaxPool2d(kernel_size=3, stride=2)
            )
    
            self.fc = nn.Sequential(
                nn.Linear(？？？, 4096)
                ......
                ......
            )

首先，我们先把forward写一下：

def forward(self, x):
            x = self.conv(x)
            print x.size()

就写到这里就可以了。其次，我们初始化一下网络，随机一个输入：

import torch
    from Alexnet.AlexNet import *
    from torch.autograd import Variable
    
    if __name__ == '__main__':
        net = AlexNet()
    
        data_input = Variable(torch.randn([1, 3, 96, 96])) # 这里假设输入图片是96x96
        print data_input.size()
        net(data_input)

结果如下：

(1L, 3L, 96L, 96L)
    (1L, 256L, 1L, 1L)

显而易见，咱们这个全连接层的input\_features为256。