如何从深度CNN输出创建不确定性彩色地图图像？

Question

我正在设计一个用于城市特征检测的深度CNN分类器.大多数时候,我的网络对建筑进行了分类和分割,但很多时候由于照明/类似的外观等与其他物体相混淆.

我想创建一个彩色地图以及可以表示某个分类器如何的分段图像？我使用softmaxwith loss来训练网络.

layer {
  name: "score"
  type: "Deconvolution"
  bottom: "pool_3"
  top: "score"
  convolution_param {
    num_output: 2
    bias_term: false
    pad:2
    kernel_size: 8
    stride: 4
  }
}

我期待输出类似于这个彩色地图图像:

我的问题是

1. 如何计算不确定性？
2. 如何在计算不确定性时处理负值？

注意:目前,我可以使用熵获得彩色地图.

Answer 1

您可能想要执行遮挡敏感性实验，以构建最重要图像区域的热图。

\n

来自AI StackExchange 上的这个答案：

\n

\n

这就是想法。假设 ConvNet 将图像分类为狗。我们如何确定它实际上捕捉到了图像中的狗，而不是来自背景或其他杂项物体的上下文线索？

\n

研究某些分类预测来自图像的哪一部分的一种方法是绘制感兴趣类别（例如狗类别）的概率作为遮挡物对象的位置的函数。如果我们迭代图像的区域，将其替换为全零并检查分类结果，我们可以构建一个二维热图，显示对特定图像上的网络最重要的内容。

\n

\n

\n