tensorflow基础知识(六) tensor变量 tf.Variable与tf.get_variable和tf.variable_scope

川长思鸟来 2022-05-16 01:18 183阅读 0赞

*   *   *  tensorflow中的变量
            
             *  1 tf.Variable与tf.get\_variable创建变量
             *  2 tf.variable\_scope()与tf.get\_variable的配合使用
             *  3 使用tf.get\_variable的好处

### tensorflow中的变量 ###

#### 1 tf.Variable与tf.get\_variable创建变量 ####

`tf.Variable`与`tf.get_variable`都可以在tensorflow **定义变量**，当他们用来创建变量时，他们**的区别**在于：

*  `tf.Variable`的变量名是一个 **可选项**。但是`tf.get_variable`**必须指定变量名**
 *  `tf.get_variable`一旦指定了一个变量名，就不能再重复定义。除非结合`tf.variable_scope`中的`reuse`参数。`tf.Variable`用相同name参数指定两个变量是不会报错的。

v1 = tf.get_variable('v', shape=[1], initializer=tf.constant_initializer(1.0))
    v2 = tf.get_variable('v', shape=[1], initializer=tf.constant_initializer(1.0))
    
    ValueError: Variable v already exists, disallowed.
    
    v1 = tf.Variable(tf.random_normal(shape=[2,2]), name='v')
    v2 = tf.Variable(tf.random_normal(shape=[2,2]), name='v')
    
    不会报错

**函数定义格式**如下：

*  `tf.Variable(init_obj, name='v')`用于生成一个初始值为init-obj的变量  
    
    
     *  `init_obj`为必须项，它是变量的初始化数据，一般对权重变量初始化采用**正态随机初始化**。
     *  name是一个 **可选项**
 *  `tf.get_variabl(name, shape=None, dtype=tf.float32, initializer=None, regularizer=None, trainable=True, collections=None))`**获取已存在的变量，** 不存在则新建一个变量。
    
     *  name是一个**必要的**参数选项
     *  变量的初始化可以利用initializer来实现。  
        比如，[Xavier初始化器][Xavier]

#变量创建的等价定义
    v = tf.get_variable('v', shape=[1], initializer=tf.constant_initializer(1.0))
    v = tf.Variable(tf.random_normal(shape=[2,2]), name='v')

#### 2 tf.variable\_scope()与tf.get\_variable的配合使用 ####

`tf.variable_scope(name,resue=False)`与`tf.get_variable`经常配合使用，更加方便地**管理参数命名**。

上面说到，`tf.get_variable`一旦指定了一个变量名，就不能再用该变量名重复定义。但是在神经网络中我们第一层和第二层的参数都可以称为wight时，就不可以直接使用`tf.get_variable`，而是和要结合`tf.variable_scope()`**定义不同的命名空间**将两种变量区别开来。

with tf.variable_scope('layer1',resue=False):
        v = tf.get_variable('v',[1],initializer=tf.constant_initializer(1.0))
    
    with tf.variable_scope('layer2',resue=False):
        v1 = tf.get_variable('v',[1])

另外，还必须知道：

*  当reuse为False或者None时（这也是默认值），同一个tf.variable\_scope下面的变量名不能相同；
 *  当reuse为True时，tf.variable\_scope只能获取已经创建过的变量

违反上面两个情况都会报错。

#### 3 使用tf.get\_variable的好处 ####

*  可以使用reuse参数，公共同一命名空间下的变量
 *  可以和`tf.variable_scope`结合，管理变量

[Xavier]: https://blog.csdn.net/promisejia/article/details/81635830