camax中的Softmax和SoftmaxWithLoss层有什么区别？

Question

prototxt在caffe中定义时,我发现有时我们使用Softmax最后一层的类型,有时我们使用SoftmaxWithLoss,我知道Softmax图层将返回输入数据属于每个类的概率,但似乎SoftmaxwithLoss也会返回类概率,那么是什么他们之间的区别？还是我误解了两种图层类型的用法？

Answer 1

虽然Softmax返回给定模型预测的每个目标类别的概率，SoftmaxWithLoss但不仅将 softmax 运算应用于预测，而且还计算多项式逻辑损失，作为输出返回。这是训练阶段的基础（没有损失，就没有可用于更新网络参数的梯度）。

有关更多信息，请参阅 SoftmaxWithLossLayer 和Caffe Loss 。