TensorFlow tf.one_hot( )剖析

矫情吗；* 2022-05-24 02:16 152阅读 0赞

1. 首先解释one\_hot encoding(独热编码)

one\_hot encoding可作为机器学习中对离散型特征的一种处理手段，一般用于处理监督学习中分类问题样本的标注数据。例如有三类特征\{label1，label2，label3\}，需要三个bit位实现编码，bit位为1的位置对应原来的特征值，即上述特征对应的编码为\{100, 010, 001\}。

2.tf.one\_hot( label\_batch,  class\_num )

tf.one\_hot( ) 函数原型为：

one_hot(indices, depth, on_value=None, off_value=None, axis=None, dtype=None, name=None)

indices: 代表了on\_value所在的索引，其他位置值为off\_value。类型为tensor，其尺寸与depth共同决定输出tensor的尺寸。

depth：编码深度。

on\_value & off\_value为编码开闭值，缺省分别为1和0，indices指定的索引处为on\_value值；

axis：编码的轴，分情况可取-1、0或-1、0、1，默认为-1

dtype：默认为 on\_value 或 off\_value的类型，若未提供on\_value或off\_value，则默认为tf.float32类型。

返回一个 one-hot tensor。

2. 应用

(1) indices是一个标量， 输出是一个长度为‘depth’的向量；

(2) indices是一个长度为features的向量，输出尺寸为：(a) 当axis==-1，features\*depth  (b) 当axis==0，depth\*features

(3) indices是一个尺寸为\[batch，features\]的矩阵，输出尺寸为：

(a) 当axis==-1，batch\*features\*depth (b)当axis==1，batch\*depth\*features (c)当axis==0，depth\*batch\*features

第(2)种情况举例：

\`\`\`python  
      indices = \[0, 2, -1, 1\]  
      depth = 3  
      on\_value = 5.0  
      off\_value = 0.0  
      axis = -1

\`\`\`

输出尺寸为4\*3， \`\`\`python  
                          output =  
                          \[5.0 0.0 0.0\]  // one\_hot(0)  
                          \[0.0 0.0 5.0\]  // one\_hot(2)  
                          \[0.0 0.0 0.0\]  // one\_hot(-1)  
                          \[0.0 5.0 0.0\]  // one\_hot(1)

\`\`\`

第(3)种情况举例：

\`\`\`python  
      indices = \[\[0, 2\], \[1, -1\]\]  
      depth = 3  
      on\_value = 1.0  
      off\_value = 0.0  
      axis = -1

\`\`\`

输出尺寸为：2\*2\*3，结果：\`\`\`python  
                                          output =  
                                          \[  
                                            \[1.0, 0.0, 0.0\]  // one\_hot(0)  
                                            \[0.0, 0.0, 1.0\]  // one\_hot(2)  
                                          \]\[  
                                            \[0.0, 1.0, 0.0\]  // one\_hot(1)  
                                            \[0.0, 0.0, 0.0\]  // one\_hot(-1)  
                                          \]

\`\`\`

3. 分类代码中标注数据的处理：

onehot\_label\_batch = tf.one\_hot(label\_batch, class\_num)

对标签（label）数据使用one-hot vectors，label n(数字)表示成只有第n维度数字为1的class\_num维向量，n为0,1...class\_num-1。若有5类，class\_num = 5, 标签0表示为\[1, 0, 0, 0, 0\]，标签1表示为\[0, 1, 0, 0, 0\]，以此类推。