global_step在Tensorflow中意味着什么？

Question

这是来自TensorFlow网站的教程代码,

1. 有谁能帮忙解释一下是什么global_step意思？

   我在Tensorflow网站上发现,使用全局步骤计算训练步骤,但我并不完全明白这意味着什么.

2. 此外,数字0在设置时意味着什么global_step？

    def training(loss,learning_rate):
        tf.summary.scalar('loss',loss)
        optimizer = tf.train.GradientDescentOptimizer(learning_rate)

        # Why 0 as the first parameter of the global_step tf.Variable?
        global_step = tf.Variable(0, name='global_step',trainable=False)

        train_op = optimizer.minimize(loss, global_step=global_step)

        return train_op

根据Tensorflow doc global_step:在变量更新后增加1.这意味着一次更新后global_step变为1吗？

Answer 1

global_step指的是图表看到的批次数.每次提供批次时,权重都会以最小化损失的方向更新.global_step只记录到目前为止看到的批次数.在minimize()参数列表中传递时,变量增加1.看看optimizer.minimize().

您可以global_step使用获取值tf.train.global_step().实用方法tf.train.get_global_step或方法也很方便tf.train.get_or_create_global_step.

0 是此上下文中全局步骤的初始值.

Answer 2

所述global_step Variable横跨任务训练期间保持的步骤的总数（每个步骤指数将仅发生在单一任务）。

创建的时间表global_step帮助我们了解我们在宏伟计划中的位置，分别来自每个任务。例如，可以global_step在 Tensorboard上绘制损失和准确性。