【代码】deeplabv3+ batch normalization

本是古典何须时尚 2023-06-07 12:25 1阅读 0赞

deeplab的模型代码是model.py

其中控制BN（batch normalization ）的是slim：不明白slim.arg\_scope的看[这里][Link 1]

with slim.arg_scope(
          [slim.conv2d, slim.separable_conv2d],
          weights_regularizer=slim.l2_regularizer(weight_decay),
          activation_fn=tf.nn.relu6 if use_bounded_activation else tf.nn.relu,
          normalizer_fn=slim.batch_norm,
          padding='SAME',
          stride=1,
          reuse=reuse):

在encode与decode过程中都用了BN。

同时，在COCO预训练也用了BN，如果显卡不够跑12的batchsize那么训练参数：

--fine_tune_batch_norm=false

如果一旦：

--fine_tune_batch_norm=true

那么一定要使用，比如一共八个GPU，每个能跑三个batch：

--num_clones=8 \

--train_batch_size=24 \

如果不想用BN参数，那么可以：

with slim.arg_scope(
          [slim.conv2d, slim.separable_conv2d],
          weights_regularizer=slim.l2_regularizer(weight_decay),
          activation_fn=tf.nn.relu6 if use_bounded_activation else tf.nn.relu,
          normalizer_fn=None,
          padding='SAME',
          stride=1,
          reuse=reuse):

[Link 1]: https://blog.csdn.net/u013249853/article/details/100596207

发表评论取消回复

表情：

评论列表（有 0 条评论，1人围观）

还没有评论，来说两句吧...

相关阅读

相关详说Normalization(Batch Normalization,Layer Normalization,Instance Normalization,Group Normalization)

详说各种 Normalization Batch Normalization 是 Sergey 等人于2015年在 [Batch Normalization: Acc...

我会带着你远行/ 2024年04月17日 15:28/ 0 赞/ 91 阅读

相关 Batch Normalization

![20191009191333910.png][] [日萌社][Link 1] [人工智能AI：Keras PyTorch MXNet TensorFlow Pa

太过爱你忘了你带给我的痛/ 2023年07月02日 13:28/ 0 赞/ 19 阅读

相关 Batch Normalization详解

文章目录动机单层视角多层视角什么是Batch Normalization Batch Normalization的反向

快来打我*/ 2023年06月19日 09:40/ 0 赞/ 139 阅读

相关【代码】deeplabv3+ batch normalization

deeplab的模型代码是model.py 其中控制BN（batch normalization ）的是slim：不明白slim.arg\_scope的看[这里][Link

本是古典何须时尚/ 2023年06月07日 12:25/ 0 赞/ 2 阅读

相关 batch normalization - layer normalization - instance normalization - group normalization

batch normalization - layer normalization - instance normalization - group normalizati

心已赠人/ 2023年02月17日 14:58/ 0 赞/ 24 阅读

相关 Batch Normalization详解

参考文章 [BN详解][BN] [BN在具体案例中的使用][BN 1] BN的作用使用BN可以获得如下好处：可以使用更大的学习率，训练过程

矫情吗；*/ 2022年10月31日 05:28/ 0 赞/ 21 阅读

相关 2、Batch Normalization

Batch Normalization是google团队在2015年论文《Batch Normalization: Accelerating Deep Network Trai

柔光的暖阳◎/ 2022年08月31日 04:47/ 0 赞/ 213 阅读

相关 batch normalization

[Batch Normalization导读][Batch Normalization] [Batch Normalizatio

超、凢脫俗/ 2022年07月16日 07:56/ 0 赞/ 217 阅读

相关解读Batch Normalization

本文转载自：[http://blog.csdn.net/shuzfan/article/details/50723877][http_blog.csdn.net_shuzfan

旧城等待，/ 2022年06月16日 04:43/ 0 赞/ 199 阅读

相关 TensorFlow batch normalization

TensorFlow 1.0 (February 2017)以后出现了高级API [`tf.layers.batch_normalization`][tf.layers.ba

青旅半醒/ 2022年06月13日 00:29/ 0 赞/ 215 阅读