如何在cuda中默认运行pytorch计算

Question

现在,我想使用cuda运行pytorch,然后我使用model.cuda(),并且torch.cuda.LongTensor()用于所有张量..cuda.如果我使用过,我是否必须明确使用张量model.cuda()？有没有办法让所有计算在GPU中运行为默认值？

Answer 1

我认为您不能指定默认情况下要使用 cuda 张量。不过你应该看看 pytorch 官方示例。

在 imagenet 训练/测试脚本中，他们使用名为DataParallel的模型包装器。这种包装有两个优点：

• 它处理多个 GPU 上的数据并行性
• 它处理 cpu 张量到 cuda 张量的转换

正如您在L164中看到的，您不必手动将输入/目标转换为 cuda。

请注意，如果您有多个 GPU 并且想要使用单个 GPU，请启动带有 CUDA_VISIBLE_DEVICES 前缀的任何 python/pytorch 脚本。例如CUDA_VISIBLE_DEVICES=0 python main.py。