我尝试编写一个自定义的二元交叉熵损失函数。这是我的脚本:
def my_custom_loss(y_true,y_pred):
t_loss = (-1)*(y_true * K.log(y_pred) + (1 - y_true) * K.log(1 - y_pred))
return K.mean(t_loss)
Run Code Online (Sandbox Code Playgroud)
当我使用这个损失函数运行我的脚本时,经过几次迭代,我得到 NaN 作为损失函数的输出。
然后我查看了 TensorFlow 文档,我将损失函数修改为以下内容:
t_loss = K.max(y_pred,0)-y_pred * y_true + K.log(1+K.exp((-1)*K.abs(y_pred)))
Run Code Online (Sandbox Code Playgroud)
代码运行没有任何问题。我想知道是否有人可以解释为什么我的第一个损失函数给出 NaN 输出。
二元交叉熵:y * log(p) + (1-y) * log(1-p)
我有 sigmoid 函数作为我最后一层的激活。所以'p'的值应该在0到1之间。这个范围应该存在日志。
谢谢你。