蒙特卡洛 (MC) 在 Keras 中使用 R 退出

Question

如何在卷积神经网络中使用 Keras 实现 Monte Carlo dropout 以估计 YARIN GAL 建议的预测不确定性？我正在使用 R。R代码在这里

我正在小批量拟合模型，并希望使用 Monte Carlo dropout 小批量评估模型。在 Keras 文档中找不到任何提示。顺便说一句，我用标志训练 = TRUE 训练了我的模型。

谢谢

Answer 1

常规 dropout 仅在训练时随机丢弃神经元，而不是测试时，因此这是Dropout该类的默认行为。如果您想要 MC dropout，您也需要training=TRUE在测试时使用，并且您必须多次运行前向传递：这将为您提供预测分布，您可以随意使用，例如计算平均值。

我对 R 不够熟悉，所以这里是我使用的类而不是标准Dropout类：

class MCDropout(keras.layers.Dropout):
    def call(self, inputs, training=None):
        return super(MCDropout, self).call(inputs, training=True)