Tensorflow-批量访问每个示例的访问损耗值如何？

Question

在训练期间，我使用tensorflow示例do_eval（）函数的修改版定期评估我的tensorflow网络。我的评估损失是：

evalLoss = tf.nn.l2_loss(tf.sub(prediction, truthValues_placeholder))

这将产生一个标量损耗值。我通过feed_dict在占位符中输入批处理真值。

1. 那单个标量是整个批次的损失值吗？
2. 如果是这样，这是批次中每个示例的损失总和吗？
3. 如果是这样，一个批次中的每个示例如何处理损失？我想查看调试的各个示例。

提前致谢。

Answer 1

由于 tf.nn.l2_loss(t) 仅返回 sum(t ** 2) / 2，

1. 是的。
2. 是的。
3. 您可以像下面这样命名 sub() 的结果。

然后通过run()或eval()方法获取eachLoss值。

eachLoss = tf.sub(prediction, truthValues_placeholder)
evalLoss = tf.nn.l2_loss(eachLoss)