【TensorFlow学习笔记（一）】变量作用域

阳光穿透心脏的1/2处 2022-01-23 04:57 278阅读 0赞

*  更新时间：2019-06-02  
    TensorFlow中有两个作用域，一个是`name_scope`，一个是`variable_scope`。`name_scope`主要是给`op_name`加前缀，`variable_scope`主要是给`variable_name`加前缀。

### `variable_scope` ###

`variable_scope`变量作用域机制主要由两部分组成：

v = tf.get_variable_scope(name, shape, dtype, initializer) # 根据名字返回变量
    tf.variable_scope(<scope_name>) # 为变量指定命名空间

共享变量：

# 创建变量作用域
    with tf.variable_scope("foo") as scope:
        v = tf.get_variable("v", [1])
    # 设置reuse参数为True时，共享变量。reuse的默认值为False。
    with tf.variable_scope("foo", reuse=True):
        v1 = tf.get_variable("v", [1])
    assert v1 == v

#### 获取变量作用域 ####

通过`tf.variable_scope()`获取变量作用域：

with tf.variable_scope("foo") as foo_scope:
        v = tf.get_variable("v", [1])
    with tf.variable_scope(foo_scope):
        w = tf.get_variable("w", [1])

#### 变量作用域的初始化 ####

变量作用域默认携带一个初始化器，在这个作用域中的子作用域或变量都可以继承或重写父作用域初始化器中的值。

with tf.variable_scope("foo", initializer=tf.constant_initializer(0.4)):
        v = tf.get_variable("v", [1])
        assert v.eval() == 0.4 # 被作用域初始化
        w = tf.get_variable("w", [1], initializer=tf.constant_initializer(0.3)):
            assert w.eval() == 0.3 # 重写初始化器的值
        with tf.variable_scope("bar"):
            v = tf.get_variable("v", [1])
            assert v.eval() == 0.4 # 继承默认的初始化器
        with tf.variable_scope("baz", initializer=tf.tf.constant_initializer(0.2)):
            v = tf.get_variable("v", [1])
            assert v.eval() == 0.2 # 重写父作用域的初始化器的值

### `name_scope` ###

`name_scope`为变量划分范围，在可视化中，表示在计算图中的一个层级。`name_scope`会影响`op_name`，不会影响`get_variable()`创建的变量，而会影响通过`Variable()`创建的变量。

with tf.variable_scope("foo"):
        with tf.name_scope("bar"):
            v = tf.get_variable("v", [1])
            b = tf.Variable(tf.zeros([1]), name='b')
            x = 1.0 +v
    assert v.name == "foo/v:0"
    assert b.name == "foo/bar/b:0"
    assert x.op.name == "foo/bar/add"

`tf.name_scope()`返回一个字符串。