小编sur*_*495的帖子

如何使用 keras.utils.Sequence 数据生成器和 tf.distribute.MirroredStrategy 在张量流中进行多 GPU 模型训练?

我想使用 TensorFlow 2.0 在多个 GPU 上训练模型。在分布式训练的tensorflow教程(https://www.tensorflow.org/guide/distributed_training)中,tf.data数据生成器转换为分布式数据集,如下所示:

dist_dataset = mirrored_strategy.experimental_distribute_dataset(dataset)
Run Code Online (Sandbox Code Playgroud)

但是,我想改用我自己的自定义数据生成器(例如,keras.utils.Sequence数据生成器以及keras.utils.data_utils.OrderedEnqueuer异步批量生成)。但该mirrored_strategy.experimental_distribute_dataset方法仅支持tf.data数据生成器。如何改用 keras 数据生成器?

谢谢你!

multi-gpu keras tensorflow2.0

6
推荐指数
1
解决办法
5502
查看次数

标签 统计

keras ×1

multi-gpu ×1

tensorflow2.0 ×1