GoogleNet的Inception_v1、Inception_v2、Inception_v3、Inception_v4(整理)

小灰灰 2022-05-16 11:16 251阅读 0赞

来自caffeCN的一个简要的总结(http://caffecn.cn/?/question/255)：

先上Paper列表：

*  \[v1\] Going Deeper with Convolutions, 6.67% test error, [http://arxiv.org/abs/1409.4842][http_arxiv.org_abs_1409.4842]
 *  \[v2\] Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift, 4.8% test error, [http://arxiv.org/abs/1502.03167][http_arxiv.org_abs_1502.03167]
 *  \[v3\] Rethinking the Inception Architecture for Computer Vision, 3.5% test error,  [http://arxiv.org/abs/1512.00567][http_arxiv.org_abs_1512.00567]
 *  \[v4\] Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning, 3.08% test error, [http://arxiv.org/abs/1602.07261][http_arxiv.org_abs_1602.07261]

大体思路：

*  Inception v1的网络，将1x1，3x3，5x5的conv和3x3的pooling，stack在一起，一方面增加了网络的width，另一方面增加了网络对尺度的适应性；
 *  v2的网络在v1的基础上，进行了改进，一方面了加入了BN层，减少了Internal Covariate Shift（内部neuron的数据分布发生变化），使每一层的输出都规范化到一个N(0, 1)的高斯，另外一方面学习VGG用2个3x3的conv替代inception模块中的5x5，既降低了参数数量，也加速计算；
 *  v3一个最重要的改进是分解（Factorization），将7x7分解成两个一维的卷积（1x7,7x1），3x3也是一样（1x3,3x1），这样的好处，既可以加速计算（多余的计算能力可以用来加深网络），又可以将1个conv拆成2个conv，使得网络深度进一步增加，增加了网络的非线性，还有值得注意的地方是网络输入从224x224变为了299x299，更加精细设计了35x35/17x17/8x8的模块；
 *  v4研究了Inception模块结合Residual Connection能不能有改进？发现ResNet的结构可以极大地加速训练，同时性能也有提升，得到一个Inception-ResNet v2网络，同时还设计了一个更深更优化的Inception v4模型，能达到与Inception-ResNet v2相媲美的性能

=========================================================================================

基础单元：

![Center][]

一个5x5的网格等于两个3x3的降级

![Center 1][]

一个3x3的可以降维成一个由3x1的卷积的3个输出网络

![Center 2][]

35降维可以理解为1+9+25

![Center 3][]

17降维理解为每次降7个点，17=>11=>5

![Center 4][]

8降维可以理解为8=>6=>4=>2

![Center 5][]

这个是V1对应的3个Inception结构，V2添加相应的BN就可以。

![Center 6][]

![Center 7][]

![Center 8][]

=========================================================================================

推荐参考博客：

http://blog.csdn.net/cv\_family\_z/article/details/50789805

http://blog.csdn.net/stdcoutzyx/article/details/51052847

Github上面有写好的这几个版本的python实现：

https://github.com/soeaver/caffe-model

https://github.com/titu1994/Inception-v4

Keras框架是一个不错的框架，不仅框架安装方便，代码易修改，更重要的是[API文档][API]写的非常完美，个人推荐用Keras上手学习DL。

[http_arxiv.org_abs_1409.4842]: http://arxiv.org/abs/1409.4842
[http_arxiv.org_abs_1502.03167]: http://arxiv.org/abs/1502.03167
[http_arxiv.org_abs_1512.00567]: http://arxiv.org/abs/1512.00567
[http_arxiv.org_abs_1602.07261]: http://arxiv.org/abs/1602.07261
[Center]: /images/20220516/c1ac69ae2921421fb2d51a398589d953.png
[Center 1]: /images/20220516/891e23206dd8446f8404a1a294042004.png
[Center 2]: /images/20220516/7e6009607d3044bb86d25902417bbf37.png
[Center 3]: /images/20220516/6e1e04fc41574a8b8841752efb94a8d9.png
[Center 4]: /images/20220516/70c28349871b438a9aa328a47dc5b0b2.png
[Center 5]: /images/20220516/e4ee4facb27f4259ba9c5aad610b0747.png
[Center 6]: /images/20220516/a7d95ff9131341f5923c719f73858197.png
[Center 7]: /images/20220516/9aa0cb92c094489caf038f4aed014460.png
[Center 8]: /images/20220516/758404b14a364ad8a4f17ff10fe4385a.png
[API]: http://keras-cn.readthedocs.io/en/latest/

发表评论取消回复

表情：

评论列表（有 0 条评论，251人围观）

还没有评论，来说两句吧...

相关阅读

相关神经网络学习小记录21——InceptionV3模型的复现详解

神经网络学习小记录21——InceptionV3模型的复现详解学习前言什么是InceptionV3模型 InceptionV3网络部分实现代码

比眉伴天荒/ 2023年06月11日 06:28/ 0 赞/ 20 阅读

相关 c语言1+2+3+4+5_C程序来计算系列1+（1 + 2）+（1 + 2 + 3）+（1 + 2 + 3 + 4）+ ... +（1 + 2 + 3 + ... + n）...

c语言1+2+3+4+5 The series is: 1+(1+2) +(1+2+3) +(1+2+3+4) + ... +(1+2+3+...+n), we have t

一时失言乱红尘/ 2023年03月05日 05:25/ 0 赞/ 22 阅读

相关 InceptionV3详细代码,带准确率和loss分析，以及ROC曲线（python）

from __future__ import absolute_import from __future__ import division from

曾经终败给现在/ 2023年01月03日 12:55/ 0 赞/ 148 阅读

相关计算1/2+(1/3+2/3)+(1/4+2/4+3/4)+...+(1/60+2/60+...+59/60)

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ub

野性酷女/ 2022年12月21日 14:52/ 0 赞/ 203 阅读

相关 (Inceptionv3)Rethinking the Inception Architecture for Computer Vision

翻译论文汇总：https://github.com/SnailTyan/deep-learning-papers-translation Rethinking the In

墨蓝/ 2022年12月16日 16:19/ 0 赞/ 406 阅读

相关 (Inceptionv2)Batch Normalization Accelerating Deep Network Training by Reducing Internal Covariate S

https://arxiv.org/abs/1502.03167 具有以下的优点： a）可以设置较大的初始学习率，并且减少对参数初始化的依赖，提高了训练速度； b）

我会带着你远行/ 2022年12月16日 09:05/ 0 赞/ 111 阅读

相关 java8实现字符串 “1.2.3.4.5 ” 输出List:1； 1.2； 1.2.3；1.2.3.4；1.2.3.4.5

要求：字符串 “1.2.3.4.5 ” 输出List: 1; 1.2; 1.2.3;1.2.3.4;1.2.3.4.5 eg:1; 1.2; 1.2.3;1.2.3

「爱情、让人受尽委屈。」/ 2022年10月05日 13:54/ 0 赞/ 171 阅读

相关常见的神经网络模型 AlexNet,VGGNet,GoogleNet,resNet,inceptionV3,Inception-v4,xception等论文下载链接

LeNet 1986 AlexNet 2012 [http://pan.baidu.com/s/1NpEG2，作者:Alex][http_pan.baidu.com_s_1

曾经终败给现在/ 2022年05月24日 07:06/ 0 赞/ 232 阅读

相关 GoogleNet的Inception_v1、Inception_v2、Inception_v3、Inception_v4(整理)

来自caffeCN的一个简要的总结(http://caffecn.cn/?/question/255)：先上Paper列表： \[v1\] Going Deeper

小灰灰/ 2022年05月16日 11:16/ 0 赞/ 252 阅读

相关 tensorflow android inceptionV3 报错Can not squeeze dim[1], expected a dimension of 1, got 0

java.lang.IllegalArgumentException: Can not squeeze dim[1], expected a dimension of

缺乏、安全感/ 2022年03月07日 01:22/ 0 赞/ 296 阅读