keras 的特征重要性

Question

我有以下问题。我用 Keras 创建了一个神经网络。这是我的数据帧的一部分。我的数据框看起来像：

    Id          MainCl   Class     Other Options...
    1016178069  0        30        1              
    1016178012  0        25        0              

我的结果向量给出了结果可以分类到哪个类的概率。例子：

Prob_isClass_A    Prob_isClass_b
0.756686          0.243314
0.999843          0.000157006
0.999818          0.000182159

现在主要问题是：有没有办法获得对结果负责的特征的最高概率？喜欢：

Prob_isClass_A    Prob_isClass_b      Most_Probability_Reason    Probability
0.756686          0.243314            Main_CL_Feature            0.75
0.999843          0.000157006         Class_Feature              0.8
0.999818          0.000182159         Other_Option_Feature       0.7

Answer 1

我在 Python 中使用 Keras 的神经网络中的特征重要性图表中回答了相关问题。我在这里看到的唯一区别是，您需要每个单独预测的特征重要性，而不是寻找集成度量的特征重要性的解释。在这种情况下，同一包ELI5也具有可以解释eli5.sklearn.explain_prediction中的各个预测的函数。我还没有需要使用此功能，但那里的文档似乎很简单。