将函数元素应用于Pytorch CUDA Tensor的并行方法

Question

假设我有一个火炬CUDA张量,我想应用一些函数,sin()但我明确定义了该函数F.如何F在Pytorch中使用并行计算.

Answer 1

我认为目前不可能在 CUDA-Tensor 上显式并行化函数。一个可能的解决方案是，您可以定义一个函数，例如非线性激活函数。所以你可以通过网络和你的函数转发它。

缺点是，它可能不起作用，因为你必须定义一个 CUDA 函数并且必须重新编译 pytorch。