我目前正在TensorFlow中实现YOLO,我对于需要多少内存感到有些惊讶.在我的GPU上,我可以使用批量大小为64 的Darknet框架训练YOLO .在TensorFlow上,我只能使用批量大小为6,而8我已经用完了内存.对于测试阶段,我可以使用批量大小64运行而不会耗尽内存.
我想知道如何计算每个张量消耗的内存量？默认情况下,所有张量都保存在GPU中吗？我可以简单地将总内存消耗计算为*32位的形状吗？
我注意到,因为我使用动量,我的所有张量都有一个/Momentum张量.这可能也会占用大量内存吗？
我用一种方法扩充我的数据集distorted_inputs,非常类似于CIFAR-10教程中定义的方法.可能是这部分占据了大量的记忆吗？我相信Darknet会对CPU进行修改.
tensorflow ×1