我目前正在 Pytorch 中构建一个需要多个自定义层的模型。我只定义了前向方法,因此没有定义后向方法。该模型似乎运行良好,并且优化器能够使用各层的梯度进行更新。然而,我看到很多人定义了落后的方法,我想知道我是否遗漏了一些东西。
为什么您可能需要定义向后传递?
python optimization layer pytorch
我有一个用 pytorch 构建的两层网络和两个两个不同的优化器。我想在第一层使用一个优化器,在第二层使用其他优化器。这可能吗?
optimization pytorch
optimization ×2
pytorch ×2
layer ×1
python ×1