为什么TensorFlow的文档会调用softmax的输入"logits"?

Bri*_*son 12 documentation machine-learning logistic-regression tensorflow softmax

TensorFlow将每个输入调用到softmax logit.他们继续将softmax的输入/ logits定义为:"非标定日志概率".

维基百科和其他消息来源说,logit是赔率的对数,是sigmoid/logistic函数的倒数.即,如果sigmoid(x)= p(x),则logit(p(x))= log(p(x)/(1-p(x)))= x.

是否存在TensorFlow调用softmax输入"logits"的数学或常规原因?它们不应该被称为"未缩放的日志概率"吗?

也许TensorFlow只想为二元逻辑回归保留相同的变量名称(使用术语logit是有意义的)和分类逻辑回归...

这个问题在这里有所涉及,但没有人似乎对使用"logit"这个词来表示"未缩放的对数概率"感到困扰.

lej*_*lot 14

Logit现在在ML社区中用于任何非标准化概率分布(基本上通过无参数变换映射到概率分布的任何东西,如二元变量的sigmoid函数或多项式变量的softmax).它不是一个严格的数学术语,但获得了足够的流行度,可以包含在TF文档中.

  • 你知道这个公约为什么/如何产生吗?它可能是这样的:logits 是非标准化概率,因此非标准化概率是 logits? (2认同)
  • 恐怕是这样。只是人们开始更改最后一层之后的内容(规范化方案、损失)并且不费心去更改最后一个激活的名称。社区显然需要为这个对象命名,而且它变成“logit”的事实可能不是最理想的(从数学角度来看有问题),但有点“有效”。 (2认同)