在 Pytorch 中 F.nll_loss() 类型为 torch.LongTensor 的预期对象，但发现类型为 torch.FloatTensor 的参数 #2 'target'

Question

为什么会出现这个错误。

我正在尝试编写一个自定义损失函数，它最终具有负对数可能性。

根据我的理解，NLL 是在两个概率值之间计算的？

>>> loss = F.nll_loss(sigm, trg_, ignore_index=250, weight=None, size_average=True)
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/home//lib/python3.5/site-packages/torch/nn/functional.py", line 1332, in nll_loss
    return torch._C._nn.nll_loss(input, target, weight, size_average, ignore_index, reduce)
RuntimeError: Expected object of type torch.LongTensor but found type torch.FloatTensor for argument #2 'target'

这里的输入如下：

>>> sigm.size()
torch.Size([151414, 80])
>>> sigm
tensor([[ 0.3283,  0.6472,  0.8278,  ...,  0.6756,  0.2168,  0.5659],
        [ 0.6603,  0.5957,  0.8375,  ...,  0.2274,  0.4523,  0.4665],
        [ 0.5262,  0.4223,  0.5009,  ...,  0.5734,  0.3151,  0.2076],
        ...,
        [ 0.4083,  0.2479,  0.5996,  ...,  0.8355,  0.6681,  0.7900],
        [ 0.6373,  0.3771,  0.6568,  ...,  0.4356,  0.8143,  0.4704],
        [ 0.5888,  0.4365,  0.8587,  ...,  0.2233,  0.8264,  0.5411]])

我的目标张量是：

>>> trg_.size()
torch.Size([151414])
>>> trg_
tensor([-7.4693e-01,  3.5152e+00,  2.9679e-02,  ...,  1.6316e-01,
         3.6594e+00,  1.3366e-01])

如果我将其转换为 long 我会丢失所有数据：

>>> sigm.long()
tensor([[ 0,  0,  0,  ...,  0,  0,  0],
        [ 0,  0,  0,  ...,  0,  0,  0],
        [ 0,  0,  0,  ...,  0,  0,  0],
        ...,
        [ 0,  0,  0,  ...,  0,  0,  0],
        [ 0,  0,  0,  ...,  0,  0,  0],
        [ 0,  0,  0,  ...,  0,  0,  0]])
>>> trg_.long()
tensor([ 0,  3,  0,  ...,  0,  3,  0])

如果我将目标张量的原始值也转换为sigmoid：

>>> F.sigmoid(trg_)
tensor([ 0.3215,  0.9711,  0.5074,  ...,  0.5407,  0.9749,  0.5334])
>>> loss = F.nll_loss(sigm, F.sigmoid(trg_), ignore_index=250, weight=None, size_average=True)
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/home/lib/python3.5/site-packages/torch/nn/functional.py", line 1332, in nll_loss
    return torch._C._nn.nll_loss(input, target, weight, size_average, ignore_index, reduce)
RuntimeError: Expected object of type torch.LongTensor but found type torch.FloatTensor for argument #2 'target'

这确实很高兴地计算了损失，但再次相信，因为我在长时间转换中丢失了数据：

>>> loss = F.nll_loss(sigm, F.sigmoid(trg_).long(), ignore_index=250, weight=None, size_average=True)
>>> loss 
tensor(-0.5010)

>>> F.sigmoid(trg_).long()
tensor([ 0,  0,  0,  ...,  0,  0,  0])

Answer 1

“根据我的理解，NLL 是在两个概率值之间计算的？”

不，NLL 不在两个概率值之间计算。根据pytorch 文档 （参见形状部分），它通常用于实现交叉熵损失。当 N 是数据大小且 C 是类数时，它接受预期为对数概率且大小为 (N, C) 的输入。目标是一个大小为 (N,) 的长张量，它告诉我们样本的真实类别。

由于在您的情况下，目标肯定不是真正的类，您可能必须实现自己的损失版本，并且您可能无法使用 NLLLoss。如果您添加有关要编码的损失的更多详细信息，我可以帮助/解释更多有关如何执行此操作的详细信息（如果可能，通过使用 Torch 中的现有功能）。