“非深度网络”12层打败50层，普林斯顿+英特尔：更深不一定更好

谁践踏了优雅 2022-09-17 05:23 127阅读 0赞

##### 晓查 发自 凹非寺   量子位 报道 | 公众号 QbitAI #####

“深度”是深度神经网络（DNN）的关键词。但网络越深也就意味着，训练时反向传播的链条更长，推理时顺序计算步骤更多、延迟更高。

而深度如果不够，神经网络的性能往往又不好。

这就引出了一个问题：是否有可能构建高性能的“非深度”神经网络？

**普林斯顿大学**和**英特尔**最新的论文证明，确实能做到。

他们只用了12层网络**ParNet**就在ImageNet上达到了接近SOTA的性能。

![9e7a5f7681649a90d9a254dd16d86f0e.png][]

ParNet在ImageNet上准确率超过80%、在CIFAR10上超过 96%、在CIFAR100上top-1准确率 达到了81%，另外在MS-COCO上实现了48%的AP。

他们是如何在网络这么“浅”的情况下做到的？

## 并行子网提升性能 ##

ParNet 中的一个关键设计选择是使用并行子网，不是按顺序排列层，而是在并行子网中排列层。

ParNet由处理不同分辨率特征的并行子结构组成。我们将这些并行子结构称为流（stream）。来自不同流的特征在网络的后期融合，这些融合的特征用于下游任务。

![678743db8810a5c13e771c948fb64e63.png][]

在 ParNet 中，作者使用VGG样式的块。但是对于非深度网络来说，只有3×3卷积感受野比较有限。

为了解决这个问题，作者构建了一个基于Squeeze-and-Excitation设计的 Skip-Squeeze-Excitation (SSE) 层。使用SSE模块修改后的Rep-VGG称之为Rep VGG-SSE。

对于ImageNet等大规模数据集，非深度网络可能没有足够的非线性，从而限制了其表示能力。因此，作者用SiLU激活函数替代了ReLU。

![ae3f4ab50b2a9719b2ce048dc23af0af.png][]

除了RepVGG-SSE块的输入和输出具有相同的大小外，ParNet还包含下采样和融合块。

模块降低分辨率并增加宽度以实现多尺度处理，而融合块组合来自多个分辨率的信息，有助于减少推理期间的延迟。

为了在小深度下实现高性能，作者通过增加宽度、分辨率和流数量来扩展ParNet。

作者表示，由于摩尔定律放缓，处理器频率提升空间也有限，因此并行计算有利于神经网络实现更快的推理。而并行结构的非深度网络ParNet在这方面具有优势。

## 实际性能如何 ##

在ImageNet数据集上，无论是Top-1还是Top-5上，ParNet都接近SOTA性能。

![497c9b69d1259a418658ff5a0500dbc7.png][]

在MS-COCO任务中，ParNet在性能最佳的同时，延迟最低。

![baf3fc7ae0a6e76ea7fc65f00ffe7ff3.png][]

不过也有人质疑“非深度网络”的实际表现，因为虽然层数少，但网络宽度变大，实际上ParNet比更深的ResNet50的参数还要多，似乎不太有说服力。

![e986162a321a961c1cfcff9b86785366.png][]

但作者也表示“非深度”网络在多GPU下能发挥更大的并行计算优势。

最后，ParNet的GitHub页已经建立，代码将在不久后开源。

参考链接：  
\[1\]https://arxiv.org/abs/2110.07641  
\[2\]https://github.com/imankgoyal/NonDeepNetworks

[9e7a5f7681649a90d9a254dd16d86f0e.png]: /images/20220828/a793a37ad7194945aa5068f331edde73.png
[678743db8810a5c13e771c948fb64e63.png]: /images/20220828/c7fcf4f8bda14c158416297d603ef567.png
[ae3f4ab50b2a9719b2ce048dc23af0af.png]: /images/20220828/e3422d9acb87434ea805bc17d24c3c2c.png
[497c9b69d1259a418658ff5a0500dbc7.png]: /images/20220828/f0b8bb63c9964e1fac03ac72d2216f1a.png
[baf3fc7ae0a6e76ea7fc65f00ffe7ff3.png]: /images/20220828/4201d7eeaddb45d09d6f21b48e08129d.png
[e986162a321a961c1cfcff9b86785366.png]: /images/20220828/414a49dd49ac4430ae0a7cd09b47d33d.png