Tensorflow Keras 中input_shape引发的维度顺序冲突问题（NCHW与NHWC)

待我称王封你为后i 2023-07-13 08:28 13阅读 0赞

# Tensorflow Keras 中input\_shape引发的维度顺序冲突问题（NCHW与NHWC) #

[原文链接：Tensorflow Keras 中input\_shape引发的维度顺序冲突问题（NCHW与NHWC)][Tensorflow Keras _input_shape_NCHW_NHWC]

以`tf.keras.Sequential`构建卷积层为例：

tf.keras.layers.Conv2D(10, 3, input_shape=(2, 9, 9),padding='same',activation=tf.nn.relu,kernel_initializer='glorot_normal',
            bias_initializer='glorot_normal'),

这是一个简单的卷积层的定义，主要看input\_shape参数：

这是用来指定卷积层输入形状的参数，**由于Keras提供了两套后端，Theano和Tensorflow，不同的后端使用时对该参数所指代的维度顺序dim\_ordering会有冲突。**

>  *  Theano(th)：
>     
>      *  NCHW：顺序是 \[batch, in\_channels, in\_height, in\_width\]
>  *  Tensorflow(tf)：keras默认使用这种方式
>     
>      *  NHWC：顺序是 \[batch, in\_height, in\_width, in\_channels\]

即对于上述`input_shape=(2, 9, 9)`来说：我们先忽略batch，2会被解析为通道数，矩阵大小为9\*9，符合我们预期。而tf会将矩阵大小解析为2 \* 9 ，且最后一位9代表通道数，与预期不符。

## 解决 ##

法一：

在卷积层定义中加入参数来让keras在两种后端之间切换：

>  *  `data_format='channels_first'`：代表th
>  *  `data_format='channels_last`'：代表tf

但是该法在某些时候不成功会报错：  
![format_png][]

或许是cpu电脑导致的，只支持NHWC即tf模式。

只能修改相应文件的配置来使其支持NCHW，参考这里：https://github.com/balancap/SSD-Tensorflow/issues/226

--------------------

法二：(推荐)

**使用tf.transpose函数进行高维数据的转置（维度大于2，轴的转换）**

如将上述(2,9,9)转为(9,9,2)并且是以2为通道数，即矩阵为9\*9，而不是像reshape函数简单的调整维度，若使用reshape函数来转换，只会得到通道数为9，矩阵为9 \* 2的数据。

>     tf.transpose(待转矩阵,(1,2,0))

解释：

其中0，1，2…是原矩阵维度从左到右轴的标号，即（2，9，9）中三个维度分别对应标号0，1，2。而调整过后将标号顺序变为1，2，0 即是把表通道数的轴置于最后，这样转置后的矩阵就满足了keras的默认tf后端。即可正常训练。

[Tensorflow Keras _input_shape_NCHW_NHWC]: http://jachindo.top:8090/archives/tensorflowkeras%E4%B8%ADinputshape%E5%BC%95%E5%8F%91%E7%9A%84%E7%BB%B4%E5%BA%A6%E9%A1%BA%E5%BA%8F%E5%86%B2%E7%AA%81%E9%97%AE%E9%A2%98nchw%E4%B8%8Enhwc
[format_png]: /images/20230529/ba9477a660f94781a4e33c31386c9e38.png