重现的确切命令：
python train.py --logtostderr --train_dir=./models/train --pipeline_config_path=mask_rcnn_inception_v2_coco.config
我正在尝试在我自己的数据集上训练 Mask-RCNN 模型（从在 COCO 上训练的模型进行微调），但是一旦填充了 shuffle 缓冲区，该过程就会终止。
在此之前，nvidia-smi 显示内存使用量约为 10669MB/11175MB，但 GPU 使用率仅为 1%。
我尝试调整以下 train_config 设置：
batch_size: 1
batch_queue_capacity: 10
num_batch_queue_threads: 4
prefetch_queue_capacity: 5
对于 train_input_reader：
num_readers: 1
queue_capacity: 10
min_after_dequeue: 5
我相信我的问题类似于TensorFlow Object Detection API - Out of Memory，但我使用的是 GPU 而不是 CPU。
我正在训练的图像比较大（2048*2048），但是我想避免缩小尺寸，因为要检测的对象非常小。我的训练集包含 400 张图像（在 .tfrecord 文件中）。 …