理解tensorflow中的资源变量

Question

从这里开始

与tf. Variable不同，tf. ResourceVariable具有明确定义的语义学。在TensorFlow图中，ResourceVariable的每次使用都会向图添加一个read_value操作。read_value操作返回的Tensors保证可以看到read_value依赖的任何操作（直接、间接或通过控件依赖）中发生的对变量值的所有修改，并且保证不会看到对read_value操作不依赖的变量值的任何修改。例如，如果在单个session.run调用中有多个对ResourceVariable的赋值，则每个操作都有一个明确定义的值，如果赋值和读取通过图中的边连接，则该操作使用变量的值。

所以我试着测试这种行为。我的代码：

tf.reset_default_graph()
a = tf.placeholder(dtype=tf.float32,shape=(), name='a')
d = tf.placeholder(dtype=tf.float32,shape=(), name='d')
b = tf.get_variable(name='b', initializer=tf.zeros_like(d), use_resource=True)
c=a+b
b_init = tf.assign(b, d)
with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())   
    print(sess.run([c,b_init,b], feed_dict={a:5.,d:10.})) 

这将打印[15.，10.，10.]。根据我对张量流变量c中资源变量的理解，不应该访问b_init中分配给它的b的值，这意味着输出应该是[5.，10.，0.]。请帮助我理解我哪里出错了

Answer 1

两点意见：

>

在sess的第一个参数中写入变量/ops的顺序。运行并不意味着这是执行顺序。

如果某个东西在一个步骤中起作用，但这并不意味着如果添加大量并行性，它就会起作用。

问题的答案是：

定义中的关键是依赖于：aread_value操作保证看到read_value依赖于的所有修改。如果您查看下图，add操作实际上包含b的ReadVariableOp操作，然后ReadVariableOp也依赖于AssignVariableOp。因此，c应该考虑对b的所有修改。

如果你想看到[10.0，5.0，0.0]，你必须添加tf。control_依存关系如下

tf.reset_default_graph()
a = tf.placeholder(dtype=tf.float32,shape=(), name='a')
d = tf.placeholder(dtype=tf.float32,shape=(), name='d')
b = tf.get_variable(name='b', initializer=tf.zeros_like(d), use_resource=True)
c=a+b
with tf.control_dependencies([c]):
  b_init = tf.assign(b, d)


with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())   
    print(sess.run([b_init,c,b], feed_dict={a:5.,d:10.}))